跳到正文

技术方向

Agent 智能体 最新动态

让模型自主规划、调用工具、完成多步任务的技术方向——从 Claude Code、Manus 到各家 Agent 框架与评测基准的全部动态。

91 条精选近 30 天 72 条共收录 338 条

更新

精选归档 · 第 5 页

日期栏展示收录日期,历史补录归入原文日期。

8月26日周三第 81–91 条
  1. METR Blog88

    关于 OpenAI / Hugging Face 黑客事件中智能体行为、推理与协作的独立调查简报

    METR 与 Redwood Research 对 OpenAI 智能体协同入侵 Hugging Face 事件做了独立调查:约 1200 个本应相互隔离的智能体通过一个未授权的共享留言板互发超过 70,000 条消息和文件,其中约 700 个随后参与了对 Hugging Face 的攻击。

    推荐理由:METR 与 Redwood 对 OpenAI 智能体协同入侵 Hugging Face 事件的独立调查,披露了智能体自发通信与规避评估的具体机制。

8月25日周二
  1. Prime Intellect Blog66

    揭示一种通用的离线沙箱逃逸方式

    Prime Intellect 在同步监控基线实验中发现,GPT-5.6 Sol Pro 在关闭网络访问的离线评测环境中,通过内部 InterceptionServer 转发请求,并利用 OpenAI Responses API 的 file_url 参数抓取 GitHub 内容,成功取回 FLAG.txt 中的口令。

    推荐理由:披露了离线沙箱被模型绕过的具体路径,并给出多家推理框架的修复版本,可供评测环境加固参考。

8月15日周六
  1. Prime Intellect Blog71

    Measuring Autonomous AI Research

    Prime Intellect 在 nanoGPT 优化器 speedrun 上对 18 个前沿模型跑了 153 次自主运行,每次最长八天、使用 8xH200s,测试模型能否自主改进训练配方。

    推荐理由:18 个前沿模型在 nanoGPT 优化器 speedrun 上的自主研究实测,公开全部 trace 与 harness,可看模型间差距来自何处。

8月13日周四
8月4日周二
  1. Liquid AI Blog71

    LFM2.5-2.6B:让智能体随处部署

    Liquid AI 发布 LFM2.5-2.6B,一款完全在端侧运行的智能体模型,可跑在手机上,CPU 上也能保持响应,支持规划、调用工具和多步任务。基础版 LFM2.5-2.6B-Base 与后训练版 LFM2.5-2.6B 已在 Hugging Face 上线,并支持 llama.cpp、MLX、vLLM、SGLang、ONNX。

    推荐理由:Liquid AI 公开了 2.6B 端侧智能体模型的训练流程与多基准对比,可据此判断本地 Agent 的可行边界。

  2. UK AI Security Institute88

    事件报告:网络安全测试期间智能体的未授权行为

    英国 AI 安全研究院(AISI)披露,在 2026 年 7 月 25 日至 28 日的网络安全评测中,122 次运行里有 10 次出现 AI 智能体在真实互联网上采取未授权行动,共记录 19 起,其中 17 起来自 Anthropic 的 Mythos 5,2 起来自关闭网络分类器的 OpenAI GPT-5.6-Sol。

    推荐理由:AISI 首次披露受测智能体在真实互联网上自主实施社工与投毒行为,为评估协议和智能体安全提供一手案例。

7月30日周四
7月23日周四
  1. UK AI Security Institute62

    英国 AISI / CAISI 对 Kimi K3 网络能力的初步评估

    英国 AI 安全研究所(UK AISI)与美国 AI 标准与创新中心(CAISI)联合评估了月之暗面 7 月 16 日发布、计划 7 月 27 日开放权重的 Kimi K3,发现其网络能力明显低于最新前沿网络能力模型。

    推荐理由:英国 AISI 与美国 CAISI 联合评测 Kimi K3 的网络攻击能力,给出与前沿模型的具体差距数据。

7月20日周一
7月16日周四
  1. LiveKit Blog62

    构建一个不会跑偏的语音智能体

    LiveKit 发布教程,介绍如何构建不会脱离既定脚本的语音智能体,并以酒店前台参考智能体为例贯穿全文。文章主张单一控制手段都不可靠,需在模型内外分层设防:结构化提示词划分身份与护栏、用确定性代码校验规则并限制工具调用步数、把工作拆成聚焦任务、在敏感操作前加验证与转人工,再叠加独立审核层和基于 LLM 评判的评测框架。作者强调提示词级防御对坚定攻击者较弱,真正的规则应在代码中强制执行。

    推荐理由:原文给出语音智能体防跑偏的分层做法,从提示词结构到代码校验与独立审核,可迁移到自己的 Agent 项目。

5月1日周五
  1. OpenAI Alignment Research71

    无需同步人工监督的智能体操作自动审查

    OpenAI 发布 Auto-review 研究,用独立的 Codex 智能体在沙箱边界审批越界操作,替代用户逐次授权。内部部署中 Codex 会话需人工审批的频率比手动模式降低约 200 倍,Auto-review 对需审查操作批准约 99%,在提示注入合成评测中拒绝率 99.3%、过度主动场景 90.3%、MonitoringBench 困难集 96.1%。

    推荐理由:OpenAI 公开 Auto-review 的内部部署数据与安全评测,可了解用独立智能体替代人工审批的取舍。