原文发布
更快完成 RL 训练:位级一致、高性能、智能体驱动
vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel,使 rollout 与训练对每个采样 token 产生位级相同的 logprob(diff = 0)。
推荐理由:原文给出训练与推理数值不一致的量化后果和逐算子对齐方案,可了解 RL 训练稳定性的一条工程路径。
日期栏展示收录日期,历史补录归入原文日期。
原文发布
vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel,使 rollout 与训练对每个采样 token 产生位级相同的 logprob(diff = 0)。
推荐理由:原文给出训练与推理数值不一致的量化后果和逐算子对齐方案,可了解 RL 训练稳定性的一条工程路径。
TypeSafe AI 发布 System One 决策模型 Jev 1.14,以 jev-preview 别名上线,新增图像输入、Box 边界框类型和 262k 长上下文三项实验性“危险区”功能,官方称均未达到生产可用。
阶跃正式释放 Step 5 Preview 权重,开放 BF16 与 FP8 模型权重、技术博客及配套开源开发工具。该模型面向长程 Agent 任务设计,采用稀疏 MoE 架构,总参数量 600B、每 token 激活参数仅 27B,支持 100 万 token 上下文窗口,原生支持文本与视觉输入。
推荐理由:阶跃开源 600B 稀疏 MoE 模型权重,读者可了解其百万 token 上下文与长程 Agent 设计取舍。
上海人工智能实验室访问学者、大湾区大学教授许地生团队依托书生科学多模态大模型 S2(书生-S2),通过人机协同完成三维 Ghys 猜想证明,该猜想由法国数学家 Étienne Ghys 于 1995 年提出,困扰数学界 30 余年。
原文发布
vLLM 为所有基于草稿模型的投机解码器类型支持置信度评分,无需置信头即可启用自适应验证(AV)。该方案用在线拟合的逻辑回归,从草稿模型 logits 的 log-odds 特征预测目标模型的接受概率,K 个 token 的草稿器仅需 K+1 个参数,参数随线上流量持续拟合。
原文发布
五款前沿模型的智能水平相差不到五分,但每任务成本相差 3.8 倍,Google 的 Argon 以每任务 1.99 美元处于最低端,比最贵的 Fable 5.1 低 74%,也比 Opus 5.5 低 67%、比 Muse Wonder 低 56%、比 Astra 低 39%。
据 The Information 援引知情人士报道,OpenAI 员工称公司年底前可能发布一到两款新模型,但正在开发的重大升级旗舰模型是否在其中尚不确定。该旗舰模型仍需完成对齐工作并加强测试基础设施,之后还要满足特朗普行政令下提前最多 30 天向美国政府开放新模型的要求。
AMD CEO 苏姿丰在 2026 年开放计算项目全球峰会上称今年是真正的“AI 推理之年”,预计 AI 推理今后将占据约 60% 的市场份额,智能体工作负载迎来爆发式增长。
Google DeepMind 将 Gemini 4 Argon 面向开发者、企业和付费 Gemini 订阅用户全面开放,这是其稀疏 MoE 前沿模型,主打编码、金融、法律、科学和网络安全等长程多步任务。
同一新闻,精选展示《Gemini 4 Argon:为解决最棘手问题而打造》
Gemini 4 Argon 已面向全球开发者和企业开放,可通过 AI Studio、Gemini 平台 API 使用,并支持 Google Antigravity 及 Gemini 应用和搜索 AI 模式的 Google AI Ultra 与 Pro 订阅用户。
同一新闻,精选展示《Gemini 4 Argon:为解决最棘手问题而打造》
Google DeepMind 发布 Gemini 4 Argon,并开始广泛推送,同时扩大 Fairwind Program 覆盖更多可信网络安全防御者。该模型在模拟网络攻击场景中解决全部 12 个端到端任务,上一代为 5 个;在 Gray Swan 间接提示注入基准上,15 次自适应攻击的成功率降至 0.7%。
推荐理由:官方披露 Gemini 4 Argon 在网络安全与生物风险上的防护设计,可了解前沿模型安全部署的具体做法。
原文发布
Prime Intellect 宣布收购 Moondream,其创始人 Vik Korrapati 和 Jay Allen 将加入并负责扩展推理业务,同时推进多模态模型(含视觉与 computer use)的工作。
推荐理由:收购与整合细节展示了小模型加专用推理引擎在成本与速度上的取舍,可观察多模态推理栈的走向。
Google DeepMind 发布前沿模型 Gemini 4 Argon,即日起通过 AI Studio、Gemini API、Google Antigravity 以及 Gemini 应用和 Search 的 AI Mode 面向开发者、企业和消费者开放,定价为每百万输入 token 2 美元、每百万输出 token 10 美元,缓存输入 token 享 95% 折扣。
同一新闻,精选展示《Gemini 4 Argon:为解决最棘手问题而打造》
原文发布
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅激活 2B 的推理模型,面向端侧快速私有智能体,是 LFM2.5 系列中最大也是最后一款。
推荐理由:官方给出端侧智能体的速度、基准与部署入口,可据此判断本地 Agent 的可行边界。
Google 正式发布 Gemini 4 Argon 模型,称其具备前沿推理能力并减少冗余与套话,在编码、网络安全、科学、金融和法律等基准上超过 GPT-6 Astra、Claude Fable 5.1 和 Claude Opus 5.5。
推荐理由:Google 发布 Gemini 4 Argon,给出对标竞品的基准表现、内部用例与每百万 token 定价,可据此判断前沿模型竞争格局。
Google 发布 Gemini 4 Argon,即日起通过 Gemini API、AI Studio、Google Antigravity 以及 Gemini 应用和 Search 的 AI Mode 向开发者、企业和订阅用户开放,入门价每百万输入 token 2 美元、输出 token 10 美元,缓存输入享 95% 折扣。
推荐理由:官方给出 Argon 在编码、科研与安全对齐上的具体案例和定价,可据此判断前沿模型的能力边界。
针对 MoE 模型在解码阶段 M 维过小导致 Hopper GPU 利用率低的问题,AWS 通过 Swap-AB 转置让专家维度 N=8192 进入首个操作数位置,在 H200 上实现端到端输出吞吐提升 2–4%,该优化已合入 vLLM 0.24.0 及之后版本。
Gradium 的 TTS 模型专为实时 AI 语音智能体设计,在 Coval TTS 基准(2026 年 5 月 4 日数据)上实现 155 ms 中位 TTFA,四分位距仅 2 ms,达到快于人类语音响应的水平。
原文发布
评测公司 Vals AI 在 Vibe Code Bench 上测试 GPT-6 Sol 和 Claude Opus 5.5 的单智能体与团队表现,团队成本是单智能体的 1.8 倍到 5.1 倍,四项对比中仅 GPT-6 Sol 在中等推理强度下团队得分高出 7.3 分,最大推理强度下团队设置没有带来实际优势。
原文发布
Google DeepMind 的 AlphaProof Nexus 自主解出多个开放数学问题,相关研究发表在 Science 上。它解出 353 个 Erdős 问题中的 9 个,其中两个已悬置 56 年,还证明了 OEIS 整数序列数据库中的 44 个猜想、解决代数几何中的一个开放问题,并改进了 min-max 优化中的一个已知界。
推荐理由:AlphaProof Nexus 用 Lean 形式化验证解出多个开放数学问题,可了解 AI 数学证明的同行评审路径。
英特尔在 2026 OCP 全球峰会上宣布,基于 Xe3P 架构的数据中心推理优化 GPU "Crescent Island" 正式定名为 Intel GPU D-series,首款产品为 Intel GPU D270。
4 张英伟达 Tesla V100 通过 NVLink 载板组成集群,在 4-bit 量化 Qwen3.8-Flash-Next 推理测试中跑赢 2 台 DGX Spark:长提示处理快 40%,短提示处理快 40%,短提示 Token 生成达 100.6 tok/s、快 121%。
TypeSafe 发布 Jev 模型后引爆决策 AI 模型赛道,微软、OpenAI、Cloudflare、Perplexity 等厂商相继入局,Jev 也面临抄袭风波。
Z.ai 发布法律 AI 模型 GLM-Legal,基于 GLM-5.3-Flash 构建,在 Harvey LAB 上取得 19.17% 的任务通过率,高于其基座模型的 6.67%,也高于 Kimi K3 的 12.92%、Claude Fable 5 的 11.25% 和 GPT-6 Astra 的 5.42%,在 Vals AI 榜单上排名第 7(共 79 个)。
Meta 的 Superintelligence Lab 发布 Muse Wonder 和 Muse Wonder Full 两款新模型,这是该公司首次推出前沿模型。
同一新闻,精选展示《Meta 发布 Muse Wonder 与 Muse Wonder Full:面向智能体的前沿模型》
微软研究团队发现,长时间运行的 AI 研究智能体即便增加算力也会陷入性能平台期,同一任务 8 次独立运行的最终得分在 68.3 到 100.0 之间,且各自困在被称为 idea basins 的相似解区域内。
NVIDIA 提出 ReplaySSM,重新思考混合模型的状态存储方式以加速解码。NVIDIA Nemotron 3、Qwen3.5 至 Qwen3.8、Kimi-K3、GLM-5.3-Flash 等混合模型将 SSM 层与少量注意力层交错,SSM 层分别采用 Mamba-2、Gated DeltaNet(GDN)或 Kimi Delta Attention(KDA)。
AWS 发布面向 llama.cpp 的 Deep Learning Container,可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
AWS 发布面向多节点部署的 Ray LLM Deep Learning Container,可在 Amazon EKS 上把单个大语言模型跨两个 GPU 节点部署,一个节点做 prefill、另一个做 decode,并统一暴露 OpenAI 兼容端点。
Meta 发布 Muse Wonder 和 Muse Wonder Full,在 Artificial Analysis Intelligence Index v4.3 最高推理强度下分别得分 52 和 56,均高于 Muse Spark 1.3(max)的 48,距上次发布仅 6 周。
推荐理由:Artificial Analysis 的第三方评测给出两款新模型在智能体与编码任务上的具体分数和成本对比,可据此判断其定位。
vLLM 引入双向 KV 传输,让 decode 节点把已计算的 KV 缓存回传给 prefill 节点,避免多轮对话中重复计算上下文。在 1P1D 的 Amazon EC2 P5en 加 EFA 部署上,最长提示下 TTFT 降低约 1.6 倍(Qwen3-32B)和 3.3 倍(zai-org/GLM-5-FP8)。
推荐理由:vLLM 新增双向 KV 传输,读者可了解多轮智能体场景下降低 TTFT 的机制与实测数据。
约翰斯·霍普金斯大学提出 SELFCOMPACT,让模型自行决定何时及如何压缩上下文:通过一个压缩工具加一套轻量评分规则,判断子任务已完成或轨迹收敛时触发、推导中途或卡住时抑制。
vLLM Semantic Router 团队发布 Decision 3.0 多模态决策模型家族,共 5 个尺寸,从 0.85B 到 26.09B,全部采用 Apache-2.0 许可。
作者认为,未来几年AI的快速进步主要来自基础设施与工程能力的加速,而非模型本质的跃变,因此不会通向通用超级智能。他预计预训练研究(架构与数据选择)在2-3年内实现自动化,推理效率提升可使模型智能的有效成本近乎指数级下降,并催生Jevons悖论式的需求增长。
Baseten 发文解析高质量 NVFP4 4-bit 量化的实现路径,指出关键在于判断哪些层能承受 4 bit、哪些需要更高精度,并给出启发式规则、单层敏感度打分和 SaturationQuant 三种方案。
MIT Technology Review 文章指出,AI 的拒绝能力已成为 AI 安全的核心机制,但这一机制本质上是概率性的,并不可靠。模型在训练中学会拒绝有害提示,却仍保留相关能力,且拒绝边界由 AI 公司秘密划定。文章警告,拒绝失效可能导致灾难性后果,而拒绝过度则可能被用于压制合法言论。
OpenAI 的数学突破可能引发数学家的身份危机。文章讨论 AI 解题速度已超过人类理解其解答的速度,并追问下一个受冲击的领域会是谁。
vLLM 现已支持 NVIDIA Vera Rubin NVL72,官方称在 AgentX 上匹配交互性时每 GPU 吞吐量最高达 GB200 NVL72 的 7.8 倍,在 MLPerf 中 VLM 吞吐量最高达 GB300 NVL72 的 3.7 倍。
推荐理由:vLLM 官方给出 Rubin 平台的早期适配状态与实测吞吐数据,可据此判断新硬件上的推理部署进展。
NVIDIA Dynamo 用统一的会话级标识符(session_id / parent_session_id)把请求级推理服务改造成程序感知系统,实现会话感知路由、共享 KV cache 索引和跨 vLLM、SGLang 的编程式缓存迁移。
TypeSafe AI 于 9 月 15 日结束隐身并发布新模型 Jev,其公告在 Twitter 获得近 4000 万次浏览,一周内超 10 万人加入其 Discord,约 2000 个 GitHub 项目使用该模型。
推荐理由:通过一个概率输出模型的实际用例,读者可以理解受限输出格式为何在速度、成本和工程集成上带来优势。