跳到正文

日期栏展示收录日期,历史补录归入原文日期。

今天10月15日周四8 条
  1. vLLM Blog71

    原文发布

    更快完成 RL 训练:位级一致、高性能、智能体驱动

    vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel,使 rollout 与训练对每个采样 token 产生位级相同的 logprob(diff = 0)。

    推荐理由:原文给出训练与推理数值不一致的量化后果和逐算子对齐方案,可了解 RL 训练稳定性的一条工程路径。

  2. METR Blog22

    原文发布

    评估者如何调查 AI 研发自动化带来的加速证据

    METR 提出一套评估框架,用于调查 AI 研发自动化是否导致能力进步显著加速。评估需分析未发布模型的能力、关键研发投入(人力、算力、数据、算法)的增长,并与研究人员直接访谈。所需数据包括内部模型基准分数、预训练损失等中间指标、算法进步估计及 AI 贡献证据,可在开发者硬件上分析以保障安全。

  3. Databricks Blog22

    原文发布

    OLTP vs. OLAP:在事务型数据库与分析型数据库之间做选择

    OLTP 面向支付、订单、库存等当前数据的高并发低延迟读写,OLAP 面向跨时间、产品、地域等维度的大规模历史数据扫描与聚合查询。两者通常并存,需靠 ETL 或 CDC 同步,新鲜度要求越高,延迟与管道开销越大。文章对比二者在查询模式、数据模型、存储与延迟上的差异,并说明数据管道、混合处理与 lakehouse 架构如何连接两者。

  4. Apple Machine Learning Research22

    原文发布

    通过语音基础模型中的语言选择性维度进行语码转换检测

    研究提出一种直接从语音中检测语码转换的轻量方法,利用预训练语音编码器帧级语言信息判断一句话中是否同时出现两种语言。在 CS-FLEURS 的 14 个语言对上,Whisper-small 编码器平均 F1 达 0.798,高于 CNN 的 0.776 和 HuBERT 线性基线的 0.751。结果表明预训练语音编码器已编码识别语码转换所需信息,可用于构建更具代表性的多语种语料。

10月14日周三
  1. MIT News · AI66

    研究人员改进两到六周后的天气预报

    MIT 等机构的研究团队开发出一种机器学习后处理层,通过学习历史数据修正现有预报模型的误差,将两到六周(次季节)预报的准确率提升一倍,并在 ECMWF 的预报竞赛中夺得第一。该成果发表在 Nature 上,首次让这一时间尺度的预报优于气候学平均值,同时显著提升了对极端天气的预测能力。模型为开源、低成本的外挂式 wrapper,可叠加到任意预报模型上,肯尼亚气象部门已联系希望用于改进季风预报。

    推荐理由:MIT 团队用后处理层修正现有预报模型误差,把 2 至 6 周预报精度提升一倍,并给出开源低成本路径。

  2. Apple Machine Learning Research30

    三模态掩码扩散模型的设计空间

    Apple 团队首次从头预训练三模态掩码扩散模型(MDM),同时处理文本、图文和音频-文本数据,并系统分析多模态缩放规律、模态混合比例与噪声调度。其批次大小分析提出基于 SDE 的重参数化,将物理批次与逻辑批次解耦,免去最优批次调参。团队预训练出 3B 规模(6.4T tokens)初步模型,在文本生成、T2I 和 T2S 任务上均取得强劲结果。

  3. Databricks Blog22

    2026 年实时分析实践指南

    实时分析正成为关键能力,但“实时”并非单一要求,应从新鲜度、延迟和并发三个维度评估工作负载。文章指出,实时与批处理分析应统一在湖仓中运行,共用一份数据和一套治理,无需为 Apache Druid、Apache Pinot、ClickHouse 等专用服务引擎维护独立数据副本与管道。

  4. MIT News · AI30

    人工神经网络如何构建自己的学习机制

    MIT McGovern 研究所团队在 PNAS 发文,证明随机连接的多层网络仅凭“同时激活的神经元连接增强”等简单规则即可自组织出学习机制,识别模式与分类图像的表现在与反向传播训练的网络相当。研究者认为,判断神经网络对神经科学的参考价值应看其自组织程度,而非仅看连接本身。

10月13日周二
  1. Apple Machine Learning Research22

    Mix, Don't Tune: Bilingual Pre-Training Outperforms Hyperparameter Search in Data-Constrained Settings

    苹果研究团队在 150M 至 1.43B 四种模型规模、约 1000 次预训练实验中,以阿拉伯语为目标语言、英语为辅助语言,比较了数据混合与超参数调优两种方案。混合在验证损失和下游任务准确率上均优于超参数调优,且优势随模型规模扩大而增大,效果相当于 2–3 倍目标数据(验证损失)和 2–13 倍(下游准确率)。作者建议优先调整混合比例,并通过 μP 从小代理模型迁移超参数。

  2. Microsoft Research39

    模拟学生学习,打造更好的 AI 辅导

    Microsoft Research 提出 StudentSim,一个用公开去标识化学习记录训练个性化 AI 学生模拟器的研究系统,可在真实学习者测试前评估和改进 AI 辅导系统。该系统从行为保真度和指导响应性两个维度评估模拟器,并配套推出覆盖国际象棋、英语二语写作和数学的 StudentSimEval 基准,表现优于主流基线。StudentSim 并非产品,不部署于课堂,也不旨在取代教师。

10月12日周一
  1. Anthropic Research66

    Anthropic 加强对蒸馏攻击的防御

    Anthropic 公布针对 Claude 蒸馏攻击的新防御方法,早期证据显示这些方法使蒸馏者获取的数据量减少约 90% 至 99%。防御分三部分:通过 preserved thinking 限制推理内容在账号、模型和对话间流转;用两阶段分类器拦截提取尝试,误报率低于 0.1%;对反复尝试提取的账号施加更严格限制并封禁。

    推荐理由:Anthropic 公开了反蒸馏防御的三类方法与实测拦截数据,可了解模型能力保护的技术路径与代价。

  2. Apple Machine Learning Research39

    自压缩语言模型智能体

    约翰斯·霍普金斯大学提出 SELFCOMPACT,让模型自行决定何时及如何压缩上下文:通过一个压缩工具加一套轻量评分规则,判断子任务已完成或轨迹收敛时触发、推导中途或卡住时抑制。

10月11日周日
  1. Sakana AI60

    通过集体智能实现递归自我改进

    Sakana AI 发布论文提出多智能体自监督(MASS):一个共享模型通过虚拟子智能体团队解题,搜索更优的多智能体工作流,再用自身判断选出最佳方案,并将最佳团队的执行轨迹蒸馏回共享模型。

    推荐理由:Sakana AI 用 27B 开源模型跑通两轮多智能体自监督循环,给出 RSI 训练数据与瓶颈的实证线索。

10月10日周六
10月9日周五
  1. Databricks Blog50

    Lakebase 与智能体 SDLC:为编码智能体打造数据库分支

    Databricks 的 Lakebase Postgres 通过数据库分支为并行编码智能体提供隔离环境,可在 1 秒内分支整个数据库,采用 copy-on-write 使分支共享父分支数据、仅按差异占用额外存储,并支持 scale-to-zero 让空闲分支不产生计算成本。每个分支完全隔离,智能体可独立执行迁移、测试并在完成后销毁分支;每个 PR 也会自动创建以生产分支为父级的临时分支用于验证。

  2. MIT News · AI22

    3 Questions: What is the best path forward for AI in academia?

    MIT统计与数据科学中心主任Sasha Rakhlin发文探讨AI如何改变学术界,聚焦数学、统计、机器学习与工程领域的研究生教育。他指出,验证速度与可靠性决定AI在某一学科的进展快慢,形式化证明可自动检验、程序可运行测试,使模型能生成候选方案并从结果中学习,形成加速循环。他建议院系重新审视学术贡献认定标准,重视提问、复现、负结果与数据集共享,并让学生学会提出问题、审查模型输出与复现结果。

10月8日周四
  1. NVIDIA Newsroom60

    NVIDIA 承诺未来五年投入 10 亿美元推动美国科学发展

    NVIDIA 宣布未来五年投入价值 10 亿美元的承诺,用于建设美国在超智能研究与量子计算等领域的能力,覆盖量子计算、医疗健康和能源安全。该承诺在华盛顿 Science: A New Golden Age 活动上公布,NVIDIA 同时参与当天宣布的多项 Genesis Mission 第二阶段项目,涉及量子计算、聚变、加速器设计与微电子。

    推荐理由:NVIDIA 五年 10 亿美元投向超智能与量子计算科研,读者可了解其与美国国家实验室及 Genesis Mission 的合作布局。

  2. MIT News · AI18

    利用 AI 缓解数据中心日益严重的环境威胁

    MIT 副教授 Christina Delimitrou 用机器学习让大型数据中心更高效、安全和可靠,通过重新设计过时的云计算系统、管理共享硬件资源并精简服务器架构,从现有硬件中挖掘更多算力。她发现多数大型计算系统利用率仅约 15%,并开发了用深度学习提前预测和阻止 Web 应用故障的工具 Seer。她还用 AI 帮助程序员定位并修复云应用问题,减少停机与算力浪费。

  3. Anthropic Research62

    缺失的星空地图

    约翰斯·霍普金斯大学天体物理学家、Anthropic 研究员 Brice Ménard 与 Claude Science 合作,制作出首张完整的紫外波段全天图,其中约三分之一天区(含银河系盘面大部分)此前从未被紫外望远镜观测,由 Claude 用 inpainting 方法预测补全。

    推荐理由:Anthropic 研究员用 Claude Science 多智能体补全三分之一未观测天区,给出可迁移的科研自动化流程。

  4. Apple Machine Learning Research39

    Normalizing Trajectory Models

    Apple 团队提出 Normalizing Trajectory Models(NTM),将扩散模型每个反向步骤建模为带精确似然训练的条件归一化流,结合每步浅层可逆模块与跨轨迹深层并行预测器,可从头训练或从预训练 flow-matching 模型初始化。

  5. Zyphra Research38

    MoE 预训练中的专家耦合

    Zyphra 研究发现 MoE 训练中 all-to-all 通信可占单步训练时间的 60.4%,原因是专家放置忽略了路由的相关性。实验显示,同一层内 45% 的 token 只落在 0.8% 的专家对上,跨层路由同样高度集中。通过把常被同一 token 选中的专家放到同一 GPU,可减少跨网络传输并加快训练,且无需改动模型架构、路由决策或训练目标。