跳到正文
10月24日周六
10月23日周五
  1. Hugging Face Blog一手

    Does Your Model Run on AWS Trainium? Look It Up

    Hugging Face 推出 TorchNeuron 后,发布 aws-neuron/torch-neuronx-model-support Space,可查询主流模型在 AWS Trainium 上的兼容性与性能表现。该工具提供模型运行结果、Trainium 核心数、编译耗时及峰值显存数据,支持查询特定模型版本与编译器配置,帮助用户判断模型是否可在 Trainium 上无修改运行。

    阅读原文 来源:Hugging Face Blog
  2. Hugging Face Blog一手

    将数据库评分转化为 RL 奖励:基于 ThinkingBox 的带有 ThinkingBox 的后训练智能体

    该研究发布了 ThinkingBox-Training,通过构建基于数据库终态状态的可执行奖励函数,对 Qwen3.8-27B 进行了 50 步的 GRPO 微调。

    阅读原文 来源:Hugging Face Blog

    推荐理由基于可执行数据库状态的奖励函数对 Qwen3.8-27B 进行了 50 步 GRPO 微调,使其在 ThinkingBox-Bench 基准测试中通过全部 20 次尝试的任务数从 38 例提升至 107 例,pass@1 从 51.70% 提升至 60.78%,展示了通过离线策略相对难度筛选训练任务后,模型可重复成功率的显著提升。

  3. AWS Machine Learning Blog一手

    使用 Kokoro TTS 在 Amazon SageMaker AI 上流式传输低延迟语音

    文章展示了如何通过在 SageMaker AI 上流式传输 Kokoro-82M TTS 模型,在代理生成完整响应前即开始语音合成,将首个音频字节的延迟从 329.3ms 降至 156.7ms,并在部署运行时实现 2.4-3.5 倍的加速。文章详细介绍了 WebSocket 双向流传输、增量句子切分、基于二进制音频与 JSON 控制帧的传输方式以及基准测试结果。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文展示了如何通过在 SageMaker AI 上流式传输 Kokoro-82M TTS 模型,在代理生成完整响应前即开始语音合成,将首个音频字节的延迟从 329.3ms 降至 156.7ms,并在部署运行时实现 2.4-3.5 倍的加速,读者可直接获取流式 TTS 的实现细节和成本对比。

  4. AWS Machine Learning Blog一手

    AWS发布Amazon Quick:在HIPAA合规环境中部署AI的完整指南

    Amazon Quick是一个HIPAA-eligble的AI工作空间,支持通过知识库和Amazon Quick Sight处理非结构化和结构化PHI。文章阐明了HIPAA eligible与compliant的区别,并提供了涵盖KMS密钥管理、ACL感知知识库、身份模型配置、审计日志和分层安全控制的分步实施指南。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由文章详细阐述了Amazon Quick在HIPAA合规环境下的部署能力、数据流设计和治理控制,提供了从基础定义到实施步骤的完整指南,帮助读者理解如何在受监管环境中安全使用Agentic AI。

  5. AWS Machine Learning Blog一手

    Amazon SageMaker training session APIs:无服务器 GPU 基础设施下的自定义训练循环实现

    Amazon SageMaker 发布 training session APIs,让用户在本地 Python 进程中驱动 GPU-backed 会话,用于自定义 LLM 训练循环。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文介绍了 SageMaker training session APIs 的编程模型和三大 SDK 客户端,并通过 GRPO 示例展示了自定义训练循环的四步操作,读者可直接获取无服务器 GPU 基础设施下的算法控制与运维分离的具体实现方式。

  6. AWS Machine Learning Blog一手

    AWS SageMaker AI 发布无服务器模型自定义训练会话,支持多轮强化学习

    AWS SageMaker AI 发布了 serverless model customization training sessions 功能,提供了无服务器的多轮强化学习训练能力。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文发布了 SageMaker AI serverless model customization training sessions,提供了无服务器的多轮 RL 训练能力,读者可以了解如何在不管理 GPU 的情况下实现自定义训练循环。

  7. AWS Machine Learning Blog一手

    在 Amazon SageMaker AI 上用两次测量替代 TTS 自动扩缩容的猜测

    原文详细介绍了在 Amazon SageMaker AI 上部署 Kokoro-82M TTS 模型的自动扩缩容配置方法。文章通过两次实际测量(Q_max 和 T_total)替代传统的猜测式配置,Q_max 为单实例在 SLO 约束下可承受的最大并发请求数(测得 50),T_total 为从请求扩容到流量恢复的总耗时(测得 320.2 秒)。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  8. Hugging Face Blog一手

    OlmoEarth v1.3:全球卫星嵌入模型发布

    Hugging Face 发布 OlmoEarth v1.3,这是一个全球卫星嵌入模型,可将一年卫星时间压缩为每 10 米像素 128 维向量。该模型在 27 项评估中以 128 维嵌入在 20 项任务中得分最高,64 维嵌入在 18 项任务中领先。

    阅读原文 来源:Hugging Face Blog

    推荐理由OlmoEarth v1.3 发布全球卫星嵌入模型并开放预计算嵌入,提供交互式浏览器工具,读者可直接获取跨年份变化分析方法和具体案例。

  9. Microsoft Research一手

    Microsoft Research 发布 Flint-interactive:用于创建交互式数据可视化的语言

    Microsoft Research 发布 Flint-interactive,这是一个用于创建交互式数据可视化的语言。它允许用户和 AI 代理通过高语义事件和更新算子定义行为,利用编译器自动处理交互逻辑和视觉依赖,从而生成可直接交互的图表,支持链接刷选、跨图交互以及与文本、表格的连动。

    阅读原文 来源:Microsoft Research
10月22日周四
  1. NVIDIA Blog一手

    NVIDIA 发布 Minerva 实现 AI 工厂全链路可观测性

    NVIDIA 发布 Minerva AIOps 平台,通过统一基础设施和 AI 工作负载的遥测数据,利用专用模型将其转化为可操作的洞察。该平台通过动态知识图谱将 GPU、网络、存储和作业在数十万级规模下逻辑关联,帮助运维快速定位故障根因。

    阅读原文 来源:NVIDIA Blog

    推荐理由原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  2. NVIDIA Blog一手

    GeForce NOW 本周新增六款游戏,使命召唤:现代战争 4 同步上线并支持 RTX 5080 性能

    GeForce NOW 本周新增六款游戏,使命召唤:现代战争 4 同步上线并提供 RTX 5080 级性能,Fire TV Stick 现可直接购买会员,FF RESONANCE 与 ESO 更新同步上线,为玩家提供新的云游戏体验和入口。

    阅读原文 来源:NVIDIA Blog

    推荐理由GeForce NOW 本周新增六款游戏,其中 Call of Duty: Modern Warfare 4 同步上线并提供 RTX 5080 级性能,Fire TV Stick 现可直接购买会员,FF RESONANCE 与 ESO 更新同步上线,为玩家提供新的云游戏体验和入口。

  3. NVIDIA Blog一手

    NVIDIA 发布 Earth-2 开放模型,助力全球天气与气候预测

    NVIDIA 发布 Earth-2 开放模型套件,提供全球天气预测、区域预报和环境研究工具。StormScope EU 模型利用 EUMETSAT 卫星观测预测 16 条 Meteosat 通道的云条演变,每 10 分钟更新一次。

    阅读原文 来源:NVIDIA Blog

    推荐理由NVIDIA 发布 Earth-2 开放模型套件,提供全球天气预测、区域预报和环境研究工具,开发者可自定义模型以应对区域需求。

  4. NVIDIA Blog一手

    NVIDIA 发布欧洲零售 AI 方案:从数字发现到物理运营

    Shopify 后训练 Nemotron 3.5 Lightning 使 GraphQL 子代理准确率超越顶级前沿模型,服务成本降低 90%,响应速度提升 7 倍。

    阅读原文 来源:NVIDIA Blog

    推荐理由Shopify 通过后训练 Nemotron 3.5 Lightning 实现成本降低 90% 与速度提升 7 倍,Zooplus 与 Photoroom 等欧洲零售商展示了搜索精度与营收提升的实际效果,Mirakl 通过开源模型保持技术主权,L’Oréal 与 Omi 结合数字孪生与 3D 生成加速研发与创意产出,NVIDIA 发布三款零售蓝图助力仿真与运营优化。

  5. NVIDIA Blog一手

    NVIDIA Cosmos 发布新工具训练评估部署世界模型

    NVIDIA 发布 Cosmos 平台新工具,提供训练、评估和部署世界模型的全套方案。Cosmos Data Factory 新增五大云原生蓝图,涵盖自动驾驶数据生成。

    阅读原文 来源:NVIDIA Blog

    推荐理由NVIDIA 发布 Cosmos 平台新工具,提供训练、评估和部署世界模型的全套方案,包括数据工厂蓝图和模型微调优化能力,可帮助开发者加速物理 AI 的训练和部署。

  6. NVIDIA Blog一手

    欧洲金融机构拥抱开放模型构建专有智能体

    欧洲金融机构展示了在自有基础设施上使用开放模型构建专有智能体的生产案例。Starling Bank 在英国主权云基础设施上训练了代理模型 Starling Intelligence。

    阅读原文 来源:NVIDIA Blog

    推荐理由欧洲金融机构展示了在自有基础设施上使用开放模型构建专有智能体的生产案例,涵盖了从模型训练到推理的全流程,读者可了解行业落地实践和成本对比。

  7. AWS Machine Learning Blog一手

    AWS发布Deep Insight:多智能体系统的5大生产挑战与解法

    AWS发布Deep Insight,一个将复杂数据分析自动化的多智能体系统。系统通过协调者、规划者、监督者和专业执行者(码农、验证者、报告者、追踪者)层层协作,从CSV数据生成带图表的DOCX报告。

    阅读原文 来源:AWS Machine Learning Blog

    推荐理由原文列出了5大生产挑战及Deep Insight的架构解法,读者可以学到分层协作、模型角色分配和安全沙箱等可迁移的技术要点。

  8. AWS Machine Learning Blog一手

    Securing Quick access from corporate networks with AWS PrivateLink

    Amazon Quick 通过 AWS PrivateLink 配置 VPC 端点与连接,实现企业内部数据源(如 PostgreSQL、MySQL、SQL Server、Oracle、Confluence、SharePoint、Amazon S3)的私有访问,确保数据不经过公网传输,满足 HIPAA、FedRAMP、PCI-DSS 合规要求,并提供低延迟、可审计的网络架构。

    阅读原文 来源:AWS Machine Learning Blog
  9. AWS Machine Learning Blog一手

    Adaptive Agentic Intelligence Framework 使用 Strands Agents 实现模型分层调度

    AAIF 框架利用 Strands Agents 架构,通过本地运行的 1B 参数 SLM(llama3.2:1b)作为决策层对请求进行分类,常规任务(如设备遥测、摄像头分析)在本地通过 Ollama 完成,复杂分析则通过 Amazon Bedrock 调用前沿模型完成,实现成本与延迟的平衡。

    阅读原文 来源:AWS Machine Learning Blog
  10. AWS Machine Learning Blog一手

    U.S. Hunger 利用 Amazon Quick 连接领导者与数据

    U.S. Hunger 利用 Amazon Quick 实现跨组织数据直接探索,领导者可在共享定义中查看财务信息并结合家庭报告的情况。CEO Rick Whitted 通过 Quick 的 Spaces 功能让领导团队围绕 KPI 与财务模型协同决策,并计划将数据通过 Redshift 与 Boomi 管道共享,以支持更广泛的研究与公共资源。

    阅读原文 来源:AWS Machine Learning Blog
10月21日周三
  1. Hugging Face Blog一手

    IBM Granite Speech 5.0 系列模型发布:转录、翻译与说话人归属能力升级

    IBM 发布 Granite Speech 5.0 系列三款模型:新模型 granite-speech-5.0-2b 提供更准确的多语言转录和翻译,支持 2000 词关键词偏置和语言 ID 提示。

    阅读原文 来源:Hugging Face Blog

    推荐理由原文发布了三款更新的语音模型,提供了转录、翻译、说话人归属等新能力和性能数据,读者可以直接对比新旧版本的 WER、RTFx 与时间戳改进。

  2. NVIDIA Blog一手

    NVIDIA cuDSS 正式发布,加速工程与科学仿真

    NVIDIA cuDSS 正式发布,通过 GPU 加速大规模稀疏线性系统求解。Applied Materials 将 Ginestra 仿真加速 10 倍,COMSOL 与 ZEISS 在 EUV 等离子体模拟中实现 4 倍速up,Dassault Systèmes 在结构模拟中报告 8-10 倍提升。该库支持 C、C++、Python、Fortran 接口,可从工作站扩展至大规模计算集群。

    阅读原文 来源:NVIDIA Blog