Vibe Check：OpenAI DevDay 2026
OpenAI DevDay 2026 发布 20 多项产品与功能，核心是让 ChatGPT 成为工作操作系统。
推荐理由：作者亲测 DevDay 二十余项发布，给出 Dots、Space 与 Decisions API 的实际体验和取舍判断。
技术方向
部署工程 最新动态
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
98 条精选近 30 天 81 条共收录 375 条
更新
精选归档 · 第 4 页
日期栏展示收录日期，历史补录归入原文日期。
Every精选AI 评分8888
上海人工智能实验室 InternLM · 新项目精选AI 评分6060 InternLM/InstantFusion
上海人工智能实验室 InternLM 开源 InstantFusion，通过共享隐空间把不同扩散模型的隐变量对齐，使去噪轨迹可以组合。方法用 Sigma 条件编码器与解码器把两个模型的隐变量映射到共享空间，训练结合重建、交叉重建、隐空间对齐和去噪速度对齐损失，可实现不同步数预算模型间的接力加速、多偏好组合以及跨模型 OPD 蒸馏。
推荐理由：上海人工智能实验室开源 InstantFusion，给出跨扩散模型共享隐空间与模型接力去噪的完整训练和推理代码。
vLLM Blog精选AI 评分6565 拆解 vLLM：分离式推理实践指南
vLLM 官方发布分离式推理实践指南，把 prefill、decode 和 CPU 侧渲染拆成独立服务，并给出 vLLM v0.31.0 及以上的部署命令。文章说明 P/D 分离主要提升 goodput 而非峰值吞吐，KV cache 传输速度是关键前提，并给出 L40S 双卡实测中 collocated 与 P/D 的 p99 ITL 对比。
推荐理由：vLLM 官方拆解分离式推理的适用场景与代价，并给出可复现的部署命令和实测数据。
Google AI · DEV精选AI 评分6060 如何用 Gemini Live API 构建实时语音 AI 智能体
Google Cloud 团队发布教程，讲解如何用 Gemini Live API 构建可实时打断的语音 AI 智能体。方案由浏览器客户端、Gemini Live API 和 Python 后端三部分组成，通过 WebSocket 保持双向音频流，并利用内置 VAD 实现 barge-in 打断，在本地先静音并清空播放缓冲以降低延迟。
推荐理由：原文给出 Gemini Live API 构建实时语音智能体的完整架构与打断处理思路，可迁移到自建语音应用。
Claude Developer Blog精选AI 评分8585 使用 Claude Sonnet 5.5 构建应用
Anthropic 发布 Claude 5.5 家族第二款模型 Claude Sonnet 5.5，比 Sonnet 5 更智能、更高效且快 30%，每 token 价格不变，因完成任务所需 token 更少，多数工作成本最多降低 30%。
推荐理由：官方给出 Sonnet 5.5 的定价、迁移清单与调参建议，可据此判断是否替换现有 Sonnet 5 工作流。
NVIDIA Newsroom精选AI 评分7474 NVIDIA 发布开放智能体安全平台，覆盖从测试到部署
NVIDIA 发布 Open Agent Safety Platform，由开源软件 OpenShell 与 Sentry 参考系统设计组成，为智能体提供全栈治理与控制。
推荐理由：NVIDIA 把智能体安全边界从模型层挪到运行时与硬件层，读者可据此判断企业级智能体治理的落地路径。
LlamaIndex Blog精选AI 评分6262 为什么 VLM 读不懂表单？
LlamaIndex 发文解释 VLM 在表单解析上的失败模式，包括复选框状态误判、边界框漏检与错位、以及把数值挂到错误字段的静默归因错误。文章给出 LlamaParse 的表单 JSON 结构，用字段、分区和边界框表示 W-2 等表单，并说明其自研复选框状态分类器与边界框检测模型如何修正 VLM 输出。
推荐理由：LlamaIndex 用 W-2、1040 等实例拆解 VLM 读表单的失败模式，并给出表单 JSON 结构与调用方式。
Claude Developer Blog精选AI 评分6262 Opus 5.5 上一个任务要花多少钱
Anthropic 官方博客拆解 Claude Code 单个任务的成本构成，指出轮次、缓存读取、输出 token 和模型选择四项决定开销，并以 Opus 5.5 API 定价（输入 $4、输出 $20、缓存读取 $0.20 每百万 token）举例说明。
推荐理由：官方拆解 Claude Code 单任务成本构成，给出 effort、缓存与模型选择的取舍方法。
GitHub Blog · AI & ML精选AI 评分6060 当聊天框是错误的 UI
GitHub 的 Burke Holland 提出，聊天框只是 LLM 的通用入口，当用户明确知道要做什么时，聊天往往是错误的 UI。他介绍 GitHub Copilot app 中的 canvas，即运行在应用内、无浏览器外壳的全栈小应用，可与 agent 双向通信，并能在本地执行代码、调用第三方 API。
推荐理由：GitHub Copilot 团队提出聊天框并非多数任务的最佳界面，并给出 canvas 这一可定制交互面的实践思路。
Baseten Blog精选AI 评分6060 用 Baseten Loops 在 LangSmith 轨迹上做微调
LangChain 在 Interrupt 26 大会上发布 LangSmith Fine-Tuning，可将 LangSmith 中的 Agent 轨迹转成监督微调数据集，训练与部署都跑在 Baseten 上。
推荐理由：原文给出了从 LangSmith 轨迹到微调数据集的完整链路，读者可据此判断自有 Agent 数据能否直接转成部署模型。
Amp News精选AI 评分6060 Amp 推出共享 Runner 功能
Amp 上线共享 Runner 功能，用 --share 启动后工作区成员都能在这台机器上从 ampcode.com 发起线程，带 GPU 的机器、用于构建签名 iOS 应用的 Mac 或特定网络内的开发机都可作为共享算力。
推荐理由：原文给出共享 runner 的启动方式、环境变量隔离与权限边界，便于团队评估自建算力如何接入智能体工作流。
vLLM Blog精选AI 评分6262 vLLM 中的水印技术
vLLM 现已支持基于 Gumbel-max 算法的无失真文本水印，并集成到 Model Runner v2 的采样管线中，同时支持投机解码。实现将伪随机数生成、Gumbel 变换与 argmax 归约融合进单个 GPU kernel，在 Qwen3.5-27B 上跨 batch size 1–256 的吞吐变化在 −1.1% 到 +2.0% 之间。
推荐理由：vLLM 把无失真文本水印接进采样管线，读者可了解其算法取舍与吞吐开销。
Google DeepMind精选AI 评分6262 Google 为 Private AI Compute 引入安全的服务端记忆
Google Private AI Compute 团队公布为 Private AI Compute 平台引入持久化的服务端记忆能力，让 AI 助手能跨设备保留上下文，同时维持端侧级别的隐私标准。
推荐理由：Google 公开了 Private AI Compute 的持久化服务端记忆方案，读者可了解云端长期记忆如何与端侧隐私标准结合。
Comfy Blog精选AI 评分6262 Comfy Router 发布：一个 API 调用前沿媒体模型
Comfy 在 Comfy Developer Platform 上线 Comfy Router，用一个 API 接入前沿图像、视频、3D 和音频模型，首日支持 Seedance 2.5、MiniMax H3、Nano Banana Pro、GPT Image 2、Kling 和 Black Forest Labs。
推荐理由：Comfy Router 把多家前沿图像视频模型的调用收敛到一个 API，读者可据此判断多供应商路由是否值得接入。
Baseten Blog精选AI 评分6666 NVIDIA Nemotron 3 Diarization：每小时音频一美分的实时说话人标签
NVIDIA Nemotron 3 Diarization 发布，这是一个约 100M 参数的 Transformer 说话人分离模型，基于 NVIDIA Streaming Sortformer 构建，把 16 kHz 音频切成 10ms 帧并输出 T×8 的说话人活动概率矩阵。
推荐理由：原文给出单检查点四档延迟、DER 对比与单卡并发上限，可据此评估实时说话人分离的部署成本。
Claude Developer Blog精选AI 评分7171 我们如何在两周内让 claude.ai 提速 3 倍
Anthropic 团队在两周冲刺中把 claude.ai 和 Claude 桌面应用的核心体验提速约 3 倍，新加载页面可输入时间从 3.1 秒降到 0.55 秒，启动 Claude Code 会话从 0.8 秒降到 0.3 秒。
推荐理由：Anthropic 团队复盘用 Claude 在两周内把 claude.ai 提速 3 倍的完整工程流程，可迁移到性能优化实践。
Prime Intellect Blog精选AI 评分6262 Prime Sandboxes：面向大规模智能体 RL 训练的 microVM
Prime Intellect 宣布 Prime Sandboxes 正式可用，每个沙箱是一台完整 Linux 虚拟机，支持 Docker Compose、后台任务和依赖内核的工作负载，可运行数万个并发沙箱。
推荐理由：Prime Intellect 公布智能体 RL 沙箱的架构取舍与定价，可据此比较容器与 microVM 方案的差异。
Factory News精选AI 评分6060 Factory Router 将推理成本降低 63%
Factory 公布 Factory Router 的生产数据，使用该路由的会话总体成本比按前沿模型公开价格计算低 63%，6 月底这一数字为 42%，同期路由会话量增长约四倍。
推荐理由：原文给出路由在生产环境的成本与通过率数据，可据此判断模型路由对智能体工作流的实际收益。
Cursor Changelog精选AI 评分6262 Rollouts 与 Security Review
Cursor 推出 Rollouts 和 Security Review 两个 bot，分别监控每次变更的部署健康状况、在每个 PR 中报告可被利用的缺陷，现已在团队版和企业版上线。
推荐理由：Cursor 把部署监控与安全审查做成两个 bot，读者可了解 AI 编码工具如何延伸到交付与安全环节。
vLLM Blog精选AI 评分6666 vllm-metal 发布：在 Apple Silicon 上实现并发推理服务
vLLM 官方发布 vllm-metal，把 vLLM 的 V1 调度器、分页 KV 缓存和 OpenAI 兼容服务端带到 Apple Silicon，由 MLX 与 Metal 负责执行。
推荐理由：vLLM 官方把调度器与分页 KV 缓存搬到 Apple Silicon，读者可据此判断 Mac 本地并发推理的可行边界。