原文发布
更快完成 RL 训练:位级一致、高性能、智能体驱动
vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel,使 rollout 与训练对每个采样 token 产生位级相同的 logprob(diff = 0)。
推荐理由:原文给出训练与推理数值不一致的量化后果和逐算子对齐方案,可了解 RL 训练稳定性的一条工程路径。
公司与模型
英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力市场的风向。
11 条精选近 30 天 11 条共收录 45 条
日期栏展示收录日期,历史补录归入原文日期。
原文发布
vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel,使 rollout 与训练对每个采样 token 产生位级相同的 logprob(diff = 0)。
推荐理由:原文给出训练与推理数值不一致的量化后果和逐算子对齐方案,可了解 RL 训练稳定性的一条工程路径。
NVIDIA 宣布一项五年期、价值 2.5 亿美元的算力捐赠,用于加强英国的智能体安全与安保研究能力,每年提供 5000 万美元算力访问。大部分算力将支持英国更广泛的 AI 安全与安保研究社区,一部分用于与牛津大学主导的 BOLD、UCL 主导的 SOFAIR 以及帝国理工学院在智能体基础模型、开源 AI 架构和机器人安全方面的合作。
推荐理由:NVIDIA 以五年算力捐赠支持英国智能体安全研究,读者可了解资金规模、合作机构与算力落地方式。
ComfyUI 将 Nvidia 的 RTX 视频效果做成自定义节点,模型随节点分发并在本地 Nvidia RTX GPU 上运行。
推荐理由:ComfyUI 把 Nvidia RTX 视频超分、插帧与 SDR 转 HDR 做成节点,读者可据此了解本地 VFX 流程的搭建方式。
NVIDIA 将完整的 Run:ai 平台以开源软件形式发布,向客户、开发者和生态伙伴开放生产级 AI 工作负载与 GPU 编排能力。此次发布扩展了 NVIDIA DSX AI Factory 平台,把 Run:ai 确立为开放基础,让更广泛的生态能够推出差异化解决方案。
推荐理由:NVIDIA 将 Run:ai 全平台开源并纳入 DSX AI Factory,读者可了解 GPU 编排能力的开放范围。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,并联合生态伙伴推出面向本地 AI 的软件更新,涵盖 GitHub Copilot、Hermes、OpenClaw、Perplexity、Pi 和 WorkBuddy 等智能体应用。
推荐理由:NVIDIA 官方汇总 RTX Spark 笔记本上市前的本地 AI 软件生态更新,可了解端侧智能体与开发工具的落地节奏。
vLLM 现已支持 NVIDIA Vera Rubin NVL72,官方称在 AgentX 上匹配交互性时每 GPU 吞吐量最高达 GB200 NVL72 的 7.8 倍,在 MLPerf 中 VLM 吞吐量最高达 GB300 NVL72 的 3.7 倍。
推荐理由:vLLM 官方给出 Rubin 平台的早期适配状态与实测吞吐数据,可据此判断新硬件上的推理部署进展。
NVIDIA 宣布未来五年投入价值 10 亿美元的承诺,用于建设美国在超智能研究与量子计算等领域的能力,覆盖量子计算、医疗健康和能源安全。该承诺在华盛顿 Science: A New Golden Age 活动上公布,NVIDIA 同时参与当天宣布的多项 Genesis Mission 第二阶段项目,涉及量子计算、聚变、加速器设计与微电子。
推荐理由:NVIDIA 五年 10 亿美元投向超智能与量子计算科研,读者可了解其与美国国家实验室及 Genesis Mission 的合作布局。
NVIDIA 与 Microsoft 在旧金山 Windows AI 与 Surface 活动上宣布为 Windows PC 共同设计运行 AI 智能体的软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。
推荐理由:NVIDIA 与 Microsoft 把智能体运行环境做进 Windows,并给出 RTX Spark 与 DGX Station 的本地算力规格,可据此判断端侧智能体的硬件门槛。
NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,10 月 23 日开售,起售价 4,999 美元,预装 DGX OS 与 NVIDIA AI 软件栈。
推荐理由:原文给出 64GB 新配置的规格、价格与双机集群方式,可据此判断本地跑大模型的门槛变化。
NVIDIA 发布 Open Agent Safety Platform,由开源软件 OpenShell 与 Sentry 参考系统设计组成,为智能体提供全栈治理与控制。
推荐理由:NVIDIA 把智能体安全边界从模型层挪到运行时与硬件层,读者可据此判断企业级智能体治理的落地路径。
NVIDIA Nemotron 3 Diarization 发布,这是一个约 100M 参数的 Transformer 说话人分离模型,基于 NVIDIA Streaming Sortformer 构建,把 16 kHz 音频切成 10ms 帧并输出 T×8 的说话人活动概率矩阵。
推荐理由:原文给出单检查点四档延迟、DER 对比与单卡并发上限,可据此评估实时说话人分离的部署成本。