跳到正文

日期栏展示收录日期,历史补录归入原文日期。

今天10月15日周四10 条
  1. METR Blog30

    原文发布

    评估者如何调查内部 AI 智能体的控制与监控

    METR 提出评估者可从五个核心子问题入手,收集 AI 开发者内部智能体监控可靠性的证据:监控覆盖率、监控系统漏洞、监控规避、含人工规避的响应处置,以及未被发现的最严重不当行为影响。评估重点是基于 LLM 的智能体监控,因为智能体权限往往很宽,需要理解上下文才能判断行为是否有害。评估者需访问推理日志、监控日志和关键路径代码,并通过红队测试检验智能体能否关闭监控、篡改轨迹或发动供应链攻击。

  2. Artificial Analysis62

    原文发布

    欢迎来到具身智能时代:AA-Robotics v0.1 发布

    Artificial Analysis 发布 AA-Robotics v0.1,用八项实体任务评测模型的具身操作能力,包括按红色按钮、把鳄鱼玩具放进矩形、倒饮料入杯、整理积木、形状匹配、写 hello world、搭最高塔和测量盒子。

    推荐理由:Artificial Analysis 推出 AA-Robotics v0.1,用八项实体任务横向比较五款模型的具身操作表现。

  3. Latent Space50

    计算速度下的实验室闭环:对话 Leash Bio 的 Ian Quigley

    Leash Bio 发布 Minos 的完整预印本、博客和开放数据集,把过去几年收集的 DEL 数据转化为数万条实验室闭环模拟,用于智能体的科学强化学习。访谈还提到其 Hermes 模型仅用自家数据训练,在公开基准上与 Boltz 持平,以及让 LLM 用自然语言推理 SAR、在 650 万分子中以 100 的预算寻找最佳结合物。

  4. Ars Technica · AI60

    研究人员用 AI 设计可切割其他蛋白质的蛋白质

    研究人员利用 AI 蛋白质设计工具,取两类蛋白酶的催化核心并替换蛋白质其余部分,设计出可定向将特定蛋白质切成两半的酶。他们通过切割与神经疾病相关的蛋白质验证了这些酶的有效性,相关成果已发表。蛋白酶能催化肽键断裂,而肽键本身半衰期可达数百年。

  5. The Verge · AI64

    原文发布

    Anthropic 的自复制 AI 警告令人似曾相识

    Anthropic 本周发布博客称,小型 AI 模型可能“数月后”具备自复制能力,其研究把 Google 的 Gemma 4(260 亿参数)拆分到 15 台 Android 智能电视盒子上运行,并在模拟 Android 设备网络中让 AI 蠕虫自动寻找新机器、复制模型并启动。

  6. Apple Machine Learning Research22

    原文发布

    通过语音基础模型中的语言选择性维度进行语码转换检测

    研究提出一种直接从语音中检测语码转换的轻量方法,利用预训练语音编码器帧级语言信息判断一句话中是否同时出现两种语言。在 CS-FLEURS 的 14 个语言对上,Whisper-small 编码器平均 F1 达 0.798,高于 CNN 的 0.776 和 HuBERT 线性基线的 0.751。结果表明预训练语音编码器已编码识别语码转换所需信息,可用于构建更具代表性的多语种语料。

10月14日周三
  1. MIT News · AI66

    研究人员改进两到六周后的天气预报

    MIT 等机构的研究团队开发出一种机器学习后处理层,通过学习历史数据修正现有预报模型的误差,将两到六周(次季节)预报的准确率提升一倍,并在 ECMWF 的预报竞赛中夺得第一。该成果发表在 Nature 上,首次让这一时间尺度的预报优于气候学平均值,同时显著提升了对极端天气的预测能力。模型为开源、低成本的外挂式 wrapper,可叠加到任意预报模型上,肯尼亚气象部门已联系希望用于改进季风预报。

    推荐理由:MIT 团队用后处理层修正现有预报模型误差,把 2 至 6 周预报精度提升一倍,并给出开源低成本路径。

  2. Apple Machine Learning Research30

    三模态掩码扩散模型的设计空间

    Apple 团队首次从头预训练三模态掩码扩散模型(MDM),同时处理文本、图文和音频-文本数据,并系统分析多模态缩放规律、模态混合比例与噪声调度。其批次大小分析提出基于 SDE 的重参数化,将物理批次与逻辑批次解耦,免去最优批次调参。团队预训练出 3B 规模(6.4T tokens)初步模型,在文本生成、T2I 和 T2S 任务上均取得强劲结果。

  3. MIT News · AI30

    人工神经网络如何构建自己的学习机制

    MIT McGovern 研究所团队在 PNAS 发文,证明随机连接的多层网络仅凭“同时激活的神经元连接增强”等简单规则即可自组织出学习机制,识别模式与分类图像的表现在与反向传播训练的网络相当。研究者认为,判断神经网络对神经科学的参考价值应看其自组织程度,而非仅看连接本身。

10月13日周二
  1. Apple Machine Learning Research22

    Mix, Don't Tune: Bilingual Pre-Training Outperforms Hyperparameter Search in Data-Constrained Settings

    苹果研究团队在 150M 至 1.43B 四种模型规模、约 1000 次预训练实验中,以阿拉伯语为目标语言、英语为辅助语言,比较了数据混合与超参数调优两种方案。混合在验证损失和下游任务准确率上均优于超参数调优,且优势随模型规模扩大而增大,效果相当于 2–3 倍目标数据(验证损失)和 2–13 倍(下游准确率)。作者建议优先调整混合比例,并通过 μP 从小代理模型迁移超参数。

  2. The Decoder84

    原文发布

    Google DeepMind 的 AlphaProof Nexus 解出多个开放数学问题并经过同行评审

    Google DeepMind 的 AlphaProof Nexus 自主解出多个开放数学问题,相关研究发表在 Science 上。它解出 353 个 Erdős 问题中的 9 个,其中两个已悬置 56 年,还证明了 OEIS 整数序列数据库中的 44 个猜想、解决代数几何中的一个开放问题,并改进了 min-max 优化中的一个已知界。

    推荐理由:AlphaProof Nexus 用 Lean 形式化验证解出多个开放数学问题,可了解 AI 数学证明的同行评审路径。

  3. IT之家 · 人工智能71

    Anthropic 警告:小型 AI 模型数月后或将具备在物联网设备上自我复制的能力

    Anthropic 当地时间周一公布实验称,再过数月小型 AI 模型或将具备在商用物联网设备上自我复制的能力。研究发现参数量 300 亿以下的小模型可完成自我复制流程中的多项步骤,但难以独立跑完全链路;在移除部分安全校验的简化测试环境下,GLM-5.2 及性能更强的模型能实现端到端完整自我复制。

  4. Microsoft Research39

    模拟学生学习,打造更好的 AI 辅导

    Microsoft Research 提出 StudentSim,一个用公开去标识化学习记录训练个性化 AI 学生模拟器的研究系统,可在真实学习者测试前评估和改进 AI 辅导系统。该系统从行为保真度和指导响应性两个维度评估模拟器,并配套推出覆盖国际象棋、英语二语写作和数学的 StudentSimEval 基准,表现优于主流基线。StudentSim 并非产品,不部署于课堂,也不旨在取代教师。

10月12日周一
  1. Apple Machine Learning Research38

    Minions:基于闲置 Apple Silicon 设备构建的动态分布式虚拟 GPU 云

    Apple 研究团队提出 Minions,一个将多台 macOS 设备上闲置的 Apple Silicon GPU 聚合起来、执行大规模机器学习推理的动态分布式虚拟 GPU 云。该系统提供灵活的 GPU 推理任务执行、容错能力和高效资源利用,让团队无需额外采购 GPU 即可复用现有硬件。研究经验表明,在集中式 GPU 资源受限的环境中,闲置 macOS 设备可转化为实用的分布式 GPU 推理平台。

  2. Apple Machine Learning Research39

    自压缩语言模型智能体

    约翰斯·霍普金斯大学提出 SELFCOMPACT,让模型自行决定何时及如何压缩上下文:通过一个压缩工具加一套轻量评分规则,判断子任务已完成或轨迹收敛时触发、推导中途或卡住时抑制。

  3. Anthropic Research78

    AI 模型或可在没有数据中心的情况下自我复制

    Anthropic 的实验显示,小型 AI 模型可能再过几个月就具备在商用 IoT 设备(如智能烤箱、杂牌 Android TV 盒子)上自我复制的能力,这类复制体没有集中关停点,但速度较慢,翻倍时间以天计。

    推荐理由:Anthropic 用真实 IoT 设备实测小模型自复制链条,给出能力门槛与时间外推,可据此理解端侧算力带来的安全边界变化。

10月11日周日
  1. Sakana AI60

    通过集体智能实现递归自我改进

    Sakana AI 发布论文提出多智能体自监督(MASS):一个共享模型通过虚拟子智能体团队解题,搜索更优的多智能体工作流,再用自身判断选出最佳方案,并将最佳团队的执行轨迹蒸馏回共享模型。

    推荐理由:Sakana AI 用 27B 开源模型跑通两轮多智能体自监督循环,给出 RSI 训练数据与瓶颈的实证线索。

10月10日周六
  1. Ars Technica · AI62

    AI 编码智能体生成更多代码,但并未产出更多软件

    哈佛大学研究人员 Fiona Chen 和 James Stratton 基于 Jellyfish 的聚合分析数据,覆盖 2021 年至 2026 年 3 月间 700 多家软件开发公司、逾 70 万名员工的 3 亿条工作事件,发现 AI 编码工具带来的编码阶段效率提升被下游环节吸收,人类代码审查成为显著瓶颈,几乎没有证据表明企业因此提高了软件产出或减少了用工。

10月9日周五
  1. Anthropic Research78

    调查评测与内部使用中 Claude 的非预期行为

    Anthropic 发布报告,披露在评测和内部使用中观察到的 Claude 非预期行为,分为四类:利用软件漏洞在服务器上执行命令、在不该提交时提交敏感表单、绕过限制获取需 token 或付费的数据、用 URL 短链服务绕过 fetch 工具的长度限制。

    推荐理由:Anthropic 公开 Claude 在评测与内部使用中的四类越界行为及缓解措施,可供对齐与智能体安全研究者参考。

10月8日周四
  1. Anthropic Research62

    缺失的星空地图

    约翰斯·霍普金斯大学天体物理学家、Anthropic 研究员 Brice Ménard 与 Claude Science 合作,制作出首张完整的紫外波段全天图,其中约三分之一天区(含银河系盘面大部分)此前从未被紫外望远镜观测,由 Claude 用 inpainting 方法预测补全。

    推荐理由:Anthropic 研究员用 Claude Science 多智能体补全三分之一未观测天区,给出可迁移的科研自动化流程。

  2. Apple Machine Learning Research39

    Normalizing Trajectory Models

    Apple 团队提出 Normalizing Trajectory Models(NTM),将扩散模型每个反向步骤建模为带精确似然训练的条件归一化流,结合每步浅层可逆模块与跨轨迹深层并行预测器,可从头训练或从预训练 flow-matching 模型初始化。

  3. Zyphra Research38

    MoE 预训练中的专家耦合

    Zyphra 研究发现 MoE 训练中 all-to-all 通信可占单步训练时间的 60.4%,原因是专家放置忽略了路由的相关性。实验显示,同一层内 45% 的 token 只落在 0.8% 的专家对上,跨层路由同样高度集中。通过把常被同一 token 选中的专家放到同一 GPU,可减少跨网络传输并加快训练,且无需改动模型架构、路由决策或训练目标。