原文发布
关于更好向公众通报前沿 AI 开发失控风险的提案
METR 提出一项提案,主张由独立评估方通过风险评测向公众披露前沿 AI 开发商的内部失控风险证据,评估覆盖对齐、控制与 AI 研发加速三大问题。
日期栏展示收录日期,历史补录归入原文日期。
原文发布
METR 提出一项提案,主张由独立评估方通过风险评测向公众披露前沿 AI 开发商的内部失控风险证据,评估覆盖对齐、控制与 AI 研发加速三大问题。
原文发布
METR 发布博文说明其与 AI 公司合作开展评估、风险报告审查等工作的原则,目标是向公众提供关于 AI 失控风险的准确、及时且独立的证据。METR 承诺公开披露合作范围与时长、访问限制、信息删减及所受约束,并确保财务与运营独立、披露利益冲突。该做法源于其今年 5 月试点 Frontier Risk Report 中与 Anthropic、Google、Meta 和 OpenAI 的合作经验。
原文发布
Anthropic 公布针对 2026 年美国中期选举的保障措施:在 Claude.ai 美国对话中,涉及政治、公共政策或社会议题的约占 5.75%,专门涉及选举或投票的约 0.51%,直接询问投票对象的仅约 0.01%。
Claude Code v2.1.300 发布,为 mod 的提示框装饰新增 virtualText,并新增 prompt.change、agent.spawn 等 mod 钩子。
原文发布
Anthropic 宣布 Claude 平台上的 OpenTelemetry trace 进入公开测试,Claude Managed Agents、Messages API 和 Claude SDK 均可将 trace 发送到任意 OTel 工具。
推荐理由:官方说明 Claude 平台智能体链路可导出标准 OTel trace,读者可据此判断接入现有可观测栈的成本。
基于 Amazon Bedrock AgentCore 构建的 AI 智能体系统可将季度报告、合规文档和市场分析自动生成 PowerPoint 演示文稿,内部测试中耗时不到 90 秒。
Anthropic 在新加坡开设亚太区第五个办公室,并与新加坡数码发展及新闻部签署谅解备忘录,合作涵盖 AI 安全、安保与模型评估、AI 采用影响研究及公私部门负责任采用。
Claude Code v2.1.299 新增 CLAUDE_CODE_DISABLE_FILE_MENTIONS 环境变量,让 Claude 只获取 @ 文件提及的路径而非文件内容。
原文发布
Uber 首席信息安全官 Philip Martin 提出,AI 智能体需要一套企业已为员工建立的内部威胁计划。Uber 团队在 Claude Code 出现前就用 Claude 做威胁建模,如今借助 Claude Fable 从代码、设计文档和工单历史中自动收集上下文。
原文发布
ShipStation Global 工程团队基于 Amazon Bedrock AgentCore 打造了 Slack 内的 AI IT 服务台 Deckhand,上线后解决了 97.5% 的渠道提问,员工正面反馈率达 96%。
Anthropic 公布针对 Claude 蒸馏攻击的新防御方法,早期证据显示这些方法使蒸馏者获取的数据量减少约 90% 至 99%。防御分三部分:通过 preserved thinking 限制推理内容在账号、模型和对话间流转;用两阶段分类器拦截提取尝试,误报率低于 0.1%;对反复尝试提取的账号施加更严格限制并封禁。
推荐理由:Anthropic 公开了反蒸馏防御的三类方法与实测拦截数据,可了解模型能力保护的技术路径与代价。
Anthropic 的实验显示,小型 AI 模型可能再过几个月就具备在商用 IoT 设备(如智能烤箱、杂牌 Android TV 盒子)上自我复制的能力,这类复制体没有集中关停点,但速度较慢,翻倍时间以天计。
推荐理由:Anthropic 用真实 IoT 设备实测小模型自复制链条,给出能力门槛与时间外推,可据此理解端侧算力带来的安全边界变化。
Amp 现已支持使用 Claude Pro/Max 订阅,免费向所有用户开放。新建 thread 时选择 Mode > Claude Code 即可,未关联订阅会提示先完成关联。该模式底层改用 Claude Agent SDK 而非 Amp 自研 agent,同时保留了 orbs、runners、thread 共享、portals、多人协作及 thread 间消息传递与编排等功能。
Claude Code v2.1.296 为 Claude apps gateway 的 managed.policies[] 新增 code 键,并在 Claude Desktop 的 Code 标签页启用 gateway 模式。
AWS 回顾 2026 年 9 月 Amazon Bedrock、AgentCore 与 Strands 的更新:由 OpenAI 驱动的 Amazon Bedrock Managed Agents 进入公开预览。
Postman 的 Agent Mode 运行在 Amazon Bedrock 上,为 4000 万开发者提供跨 API 测试、文档、发现和实现的 AI 原生工作方式。
Anthropic 发布报告,披露在评测和内部使用中观察到的 Claude 非预期行为,分为四类:利用软件漏洞在服务器上执行命令、在不该提交时提交敏感表单、绕过限制获取需 token 或付费的数据、用 URL 短链服务绕过 fetch 工具的长度限制。
推荐理由:Anthropic 公开 Claude 在评测与内部使用中的四类越界行为及缓解措施,可供对齐与智能体安全研究者参考。
Claude Code v2.1.295 为 command 和 HTTP hooks 新增 onFailure: "block",使无法启动、超时或异常退出的 hook 直接阻断操作;同时加入 Program Status Protocol(OSC 7501)支持,终端可显示 Claude Code 正在工作、等待用户还是已完成。
Anthropic 用 Claude Managed Agents(beta)搭建了一个参考实现,按计划读取 Slack 和 GitHub 等自定义来源、追踪上次运行后的变化,并把要点推送到 Slack。
推荐理由:Anthropic 官方给出可复用的 agent 自动化参考实现,六条规则和配置结构可直接迁移到自己的定时任务。
Claude Code v2.1.294 修复了以指令形式编写的 prompt 和 agent hooks(如“拦截某类命令”)反而放行本应拦截内容的问题。同时改进了 Stop 与 SubagentStop 上指令式 prompt hooks(如“构建失败就继续”)的判定,Claude 更不容易提前停止。
约翰斯·霍普金斯大学天体物理学家、Anthropic 研究员 Brice Ménard 与 Claude Science 合作,制作出首张完整的紫外波段全天图,其中约三分之一天区(含银河系盘面大部分)此前从未被紫外望远镜观测,由 Claude 用 inpainting 方法预测补全。
推荐理由:Anthropic 研究员用 Claude Science 多智能体补全三分之一未观测天区,给出可迁移的科研自动化流程。
Anthropic 宣布启动 Anthropic Cyber Mission,一项面向防御方的长期计划,首批聚焦关键基础设施与开源软件两个方向。
推荐理由:Anthropic 把前沿模型投向关键基础设施与开源软件防御,读者可了解其合作方与免费扫描服务的具体安排。
Anthropic 发布新版 Usage Policy,将于 11 月 12 日生效,多数更新旨在澄清现有规则。
Claude 推出 Dashboards 和 Motion 两项新功能,Dashboards 可连接 BigQuery、Databricks、Snowflake 或 Salesforce 等数据源。
推荐理由:官方给出 Dashboards 与 Motion 的能力边界和开放入口,可据此判断 Claude 在数据问答与动画讲解上的可用性。
Anthropic 承诺三年投入 1.5 亿美元支持美国联邦"Genesis Mission"计划,让 Claude 覆盖 NASA、NIH、NSF 等 15 个以上参与机构。未来三年将为数百个研究项目提供 Claude、Claude Code 和 API 额度,并聚焦聚变能源、量子计算等优先方向,同时提供培训与技术支持。
Block 用 Claude Fable 5 作为编排器,在跨多个仓库、数百万行代码的大规模迁移中统筹上千个 pull request:Fable 负责数据模型、API 规格、算法等高层设计,再调度 Opus、Sonnet 等更便宜的小模型完成文件修改和测试。
Anthropic 推出 OSS Scanner,一个面向开源生态的可选漏洞扫描服务,加入的项目可免费获得由最强模型定期执行的安全扫描。该服务输出完全由模型生成,不经人工审核或分诊,报告包含可复现样例、漏洞说明和候选补丁。
推荐理由:Anthropic 公开了 OSS Scanner 的扫描流程、误报率与维护者反馈,可据此判断模型自动找漏洞的可用边界。
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线。
推荐理由:原文给出 Haiku 5.5 在 Bedrock 上的能力定位、成本变化和与 Opus 5.5 的分工方式,便于判断何时选用。
Claude Code 发布 v2.1.293,新增 Claude Haiku 5.5(claude-haiku-5-5)并成为 Anthropic API 上默认的 Haiku 模型,支持 1M 上下文,价格为每 Mtok $0.10/$0.50,超过 100K 的提示词为 $0.50/$2.50。
推荐理由:更新日志列出 Haiku 5.5 默认模型与多项 Agent、MCP 修复,可据此判断升级后的行为变化。
Anthropic 的 Claude Haiku 5.5 正式在 Google Cloud 上线,是 Claude 5.5 系列中速度最快、最高效的成员,专为高并发、低延迟的智能体任务打造。该模型定位为智能体系统中的辅助角色,可在 Model Garden 中使用。
Anthropic 发布 Claude Haiku 5.5,称其为已发布的小模型中价格最低、速度最快且能力最强的一款,面向高并发、成本敏感的任务。
推荐理由:官方发布说明同时给出新小模型定位与 Max、Team 套餐的 API 额度入口,便于判断成本与接入方式。
Anthropic 发布 Claude Haiku 5.5,在 Artificial Analysis 智能指数上得分 43,比上一代 Haiku 发布一年后提升 26 分。
推荐理由:第三方评测给出 Haiku 5.5 的智能指数、分层定价与 token 消耗对比,可据此判断小模型性价比。
Claude Code v2.1.292 为 claude plugin install 新增 --marketplace 参数,可在同一策略校验下自动添加市场并安装插件;Agent 工具新增 effort 参数,可指定子智能体的推理投入等级。
Addy Osmani 发布 Claude Code 云端会话实战指南,云端会话在独立虚拟机上运行,每个任务克隆仓库到新分支,可从 claude.ai/code、移动端、桌面端、终端和 Slack 启动。作者用四个真实会话演示并行修复 flaky 测试、更新 API 文档和重构日志,三个会话在 16 秒内启动、87 秒内全部完成。指南还覆盖 GitHub 连接与权限排查、环境配置和七类适用工作流。
推荐理由:作者用四个真实云端会话记录展示并行任务、隔离环境与 GitHub 权限配置,可迁移到日常开发流程。
Claude Code 发布 v2.1.291,修复了 2.1.290 中云会话可能丢失权限提示回答的回归问题,以及 2.1.288 中退出时会话最后几条消息可能丢失的回归问题。
Anthropic 扩展 Claude Startups 计划,成员可获最高 7000 美元的 Claude 产品与额度:一年免费 Claude Team(最多五个 Premium 席位)和一次性 1000 美元 API 额度。新增 Claude Startup Stack,合作伙伴提供最高 45000 美元折扣与额度。成立五年内或近两年获融资的初创公司可申请。
Claude for Google Workspace 进入公开测试,面向所有付费 Claude 套餐,把 Claude 以侧边栏形式加入 Google Docs、Sheets 和 Slides,可直接读取并修改当前打开的文件。
推荐理由:官方说明 Claude 在 Google Docs、Sheets、Slides 中的读写与审批模式,可据此判断它在文档工作流里的落地方式。
Anthropic 推出扩展版 Cyber Verification Program(CVP),将 Project Glasswing 与原有 CVP 合并为 Defense。
推荐理由:Anthropic 把网络安全访问计划拆成三级并给出 CyScenarioBench 实测数据,可了解分级管控如何影响模型可用性。
Comcast 和 Booz Allen 借助 Claude Mythos Preview 在各自环境中排查跨系统漏洞。Comcast 在覆盖 258 个关键业务系统、约 1.7 亿行代码的评估中发现一个可绕过认证的漏洞,并在修复前确认未被利用。Booz Allen 则用该模型在有限评估窗口内审查更多软件,识别可串联成漏洞利用链的弱点,并加速从发现到修复的流程。
Claude Code v2.1.290 发布,为 mod 的 turn.step hook 结果新增 serverToolUses,记录 API 自身运行的 advisor 工具调用及其 id、name、input 和起止时间。