Google DeepMind 与新加坡政府合作构建用于诈骗检测的微调 AI 模型
Google DeepMind 与新加坡政府科技局(GovTech)合作,交付了一个可在新加坡常见智能手机上运行的端侧诈骗检测模型,用于在不牺牲隐私的前提下保护民众。
日期栏展示收录日期,历史补录归入原文日期。
Google DeepMind 与新加坡政府科技局(GovTech)合作,交付了一个可在新加坡常见智能手机上运行的端侧诈骗检测模型,用于在不牺牲隐私的前提下保护民众。
原文发布
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅激活 2B 的推理模型,面向端侧快速私有智能体,是 LFM2.5 系列中最大也是最后一款。
推荐理由:官方给出端侧智能体的速度、基准与部署入口,可据此判断本地 Agent 的可行边界。
Apple 研究团队提出 Minions,一个将多台 macOS 设备上闲置的 Apple Silicon GPU 聚合起来、执行大规模机器学习推理的动态分布式虚拟 GPU 云。该系统提供灵活的 GPU 推理任务执行、容错能力和高效资源利用,让团队无需额外采购 GPU 即可复用现有硬件。研究经验表明,在集中式 GPU 资源受限的环境中,闲置 macOS 设备可转化为实用的分布式 GPU 推理平台。
NVIDIA 与 Microsoft 在旧金山 Windows AI 与 Surface 活动上宣布为 Windows PC 共同设计运行 AI 智能体的软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。
推荐理由:NVIDIA 与 Microsoft 把智能体运行环境做进 Windows,并给出 RTX Spark 与 DGX Station 的本地算力规格,可据此判断端侧智能体的硬件门槛。
Liquid AI 发布 d1-3B 和 d1-omni-600M 两款开放权重决策模型,均已在 Hugging Face 上线。
推荐理由:官方给出两款开放权重决策模型的基准、延迟与架构细节,可据此判断端侧实时决策的可用边界。
Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、740M 参数的开源多模态嵌入模型,采用 Apache 2.0 许可,将文本、图像、音频、视频映射到统一嵌入空间。
推荐理由:EmbeddingGemma 2 把文本、图像、音频、视频统一进一个 740M 端侧嵌入模型,读者可据此判断本地多模态检索的可行边界。
NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,10 月 23 日开售,起售价 4,999 美元,预装 DGX OS 与 NVIDIA AI 软件栈。
推荐理由:原文给出 64GB 新配置的规格、价格与双机集群方式,可据此判断本地跑大模型的门槛变化。
Liquid AI 发布实验性草稿模型 LFM2.5-VL-DSpark,为其视觉语言模型 LFM2.5-VL-3B 加速解码,GPU 解码吞吐最高提升 2.66×、边缘设备最高 3.13×,端到端吞吐分别最高提升 2.27× 和 2.62×,且不改变输出质量。
Liquid AI 为 LFM2.5 家族三款模型发布 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下提升解码速度,GPU 上吞吐最高提升 3.18 倍,端侧最高 2.87 倍。
推荐理由:Liquid AI 公布三款 LFM2.5 草稿模型的实测加速数据,并说明验证损失与接受率脱钩的取舍。
Liquid AI 发布 LFM2.5-230M、350M、1.2B-Instruct 和 2.6B 的 4-bit Q4_0 检查点,采用量化感知蒸馏(QAD)训练,在保持 Q4_0 GGUF 低内存与高吞吐的同时恢复大部分量化损失精度,四款模型平均达到 BF16 的约 97%。
Liquid AI 发布视觉语言模型 LFM2.5-VL-3B,基于此前的 LFM2-VL-3B 在屏幕理解、grounding、函数调用和多图输入四方面做了改进,模型已在 Hugging Face 和 Playground 上线。
推荐理由:Liquid AI 发布 3B 端侧视觉语言模型,给出与更大模型的逐项基准对比和部署支持,可据此判断端侧多模态的当前水位。
Liquid AI 发布 LFM2.5-2.6B,一款完全在端侧运行的智能体模型,可跑在手机上,CPU 上也能保持响应,支持规划、调用工具和多步任务。基础版 LFM2.5-2.6B-Base 与后训练版 LFM2.5-2.6B 已在 Hugging Face 上线,并支持 llama.cpp、MLX、vLLM、SGLang、ONNX。
推荐理由:Liquid AI 公开了 2.6B 端侧智能体模型的训练流程与多基准对比,可据此判断本地 Agent 的可行边界。
Liquid AI 发布两款双向编码器 LFM2.5-Encoder-230M 和 LFM2.5-Encoder-350M,基于 LFM2 混合架构,支持 8,192 token 上下文,已在 Hugging Face 开放权重。