使用 Amazon SageMaker JumpStart 部署和评估模型
Amazon SageMaker JumpStart 支持从预训练模型目录中部署模型,并用 SageMaker Python SDK 运行可重复的轻量性能测试,测完删除端点。
日期栏展示收录日期,历史补录归入原文日期。
Amazon SageMaker JumpStart 支持从预训练模型目录中部署模型,并用 SageMaker Python SDK 运行可重复的轻量性能测试,测完删除端点。
Runway 的前沿视频生成与编辑模型 Gen-4.5 和 Aleph 2.0 现已可通过 Baseten 专属部署,用户可从 Runway 直接授权模型权重,在单租户隔离环境中运行。Aleph 2.0 支持最长 30 秒、1080p 的多场景视频编辑,并可在自有数据上微调。Baseten 为该部署提供 99.99% 可用性 SLA,并覆盖 SOC 2 Type II 与 HIPAA 合规。
Modem 本周起启用新域名 modem.ai,旧 modem.dev 链接自动跳转,产品功能保持不变。随新域名上线的新官网同步推出 Modem 2.0——对其语义可观测平台的重新构建,可连接用户渠道、识别并归类用户关注点,并通过监控 PR 和工单追踪团队的处理动作,准确率与端到端性能均有提升。Modem 称其用户已从工程师扩展到创始人、PM、客户成功和 CTO 等角色。
SK 海力士开发总管安炫在 SEDEX 2026 上预测,到 2030 年 AI 基础设施性能规模将增长约 20 倍。他指出 AI 推理市场正沿任务复杂度、上下文长度和推理请求量三个维度扩张,KV Cache 容量膨胀迫使数据分摊存储于 HBM、DRAM 与 SSD,数据迁移成为性能与能耗新瓶颈。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 激活约 2B 参数的 MoE 推理模型,面向笔记本和 PC 上的智能体,权重已在 Hugging Face 开放。
MarkTechPost 发布 2026 年 9 款最佳 AI 网关排名,Bifrost 以 Go 二进制、Apache 2.0 许可和 5,000 RPS 下 11 µs 开销位列自托管性能第一,Portkey 以 MIT 许可、1,600+ 模型和内置护栏居次,LiteLLM 凭 53.8K GitHub stars 和 100+ 提供商覆盖最广。
AMD CEO 苏姿丰在 2026 年开放计算项目全球峰会上称今年是真正的“AI 推理之年”,预计 AI 推理今后将占据约 60% 的市场份额,智能体工作负载迎来爆发式增长。
阿里千问办公发布面向电商行业的 AI 生产力工具千问办公电商版,定位为独立第三方电商 Agent,面向所有电商平台和商家开放,已开启邀测,用户在千问办公中切换“电商经营”模式即可体验。
NVIDIA 宣布一项五年期、价值 2.5 亿美元的算力捐赠,用于加强英国的智能体安全与安保研究能力,每年提供 5000 万美元算力访问。大部分算力将支持英国更广泛的 AI 安全与安保研究社区,一部分用于与牛津大学主导的 BOLD、UCL 主导的 SOFAIR 以及帝国理工学院在智能体基础模型、开源 AI 架构和机器人安全方面的合作。
推荐理由:NVIDIA 以五年算力捐赠支持英国智能体安全研究,读者可了解资金规模、合作机构与算力落地方式。
欧洲多国城市正联合 ABA Technology、Akila、K2K、Milestone 等软件伙伴,用 NVIDIA 加速计算、Cosmos 与 Nemotron 开放模型及 Metropolis VSS Blueprint 构建物理 AI 智能体和数字孪生,用于交通、能源、公共安全等城市运营。
NVIDIA 宣布计划投资 Boltz、Foresight、Hiverge、Prima Mente 和 Riverlane 五家英国 AI 与量子计算初创公司,并作为 Global Alliance Founding Partner 与 Earthshot Prize 合作。
樱互联网、PFN 与 NICT 宣布启动“能动性评估基盘”的社会落地工作,目标是在日本国内持续评估和改善生成式 AI 的安全性。三方基于 2025 年 9 月 18 日签署的基本合意推进合作,PFN 已于 2026 年 6 月 22 日提供国产基盘模型 PLaMo 3.0 Prime,樱互联网于同年 8 月 4 日在“さくらの AI Engine”上提供该模型。
Claude Code v2.1.299 新增 CLAUDE_CODE_DISABLE_FILE_MENTIONS 环境变量,让 Claude 只获取 @ 文件提及的路径而非文件内容。
豆包手机助手宣布《屏幕自动化操作声明协议》(SAEP)30 天公示期结束,将逐步放开第三方应用的屏幕自动化操作权限。公示期结束后开发者仍可随时声明拒绝,豆包手机助手会及时关闭相关操作,已明确拒绝的应用智能体将不会对其进行操作。IT之家附上了最新的拒绝操作应用清单,阿里、腾讯系等 App 明确拒绝。
本教程演示如何用 Meta 的分配求解器 Rebalancer(C++ 内核 + Python 绑定)完成数据中心任务放置:定义对象、容器、维度、作用域与分区,添加约束和目标,再选择局部搜索或精确混合整数求解器 HiGHS。在 24 次求解中,有 14 次 solved 标志为 True 却仍让内存超容;局部搜索下的 HARD 会返回违规起点而不报错,拼错的 spec 键被静默忽略。
原文发布
用 Python 3.15 内置的 `profiling.sampling` 对未修改的 web-edit 应用做采样剖析,发现混合换行符保留是编辑负载的主要开销:`preserve_endings` 出现在 64.8% 的 15,296 个 CPU 栈中,`SequenceMatcher.find_longest_match` 占叶子样本的 38.3%。
Simon Willison 为 llm-gemini 加入对 Gemini 4 Argon 的支持,该模型今日通过 Gemini API 及每月 100 美元订阅计划开放。
Anthropic 撰文介绍其为何以及如何自建 Git 的替代方案,原因是过去六个月代码变更速度大幅上升:2026 年 5 月平均每天合并约 2,500 次代码变更,到 9 月已超过每天 30,000 次。
Dyna Robotics 联合创始人兼首席科学家 Jason Ma 在访谈中介绍了 Dyna-2 世界动作模型,该模型基于超过一百万小时人类视频预训练,并已推出物理机器人智能体 Dyna-2.1。
实时分析正成为关键能力,但“实时”并非单一要求,应从新鲜度、延迟和并发三个维度评估工作负载。文章指出,实时与批处理分析应统一在湖仓中运行,共用一份数据和一套治理,无需为 Apache Druid、Apache Pinot、ClickHouse 等专用服务引擎维护独立数据副本与管道。
NVIDIA 介绍如何借助 AI 智能体将 Apache Spark UDF 重写为 GPU 加速版本,以应对智能体 AI 带来的大规模企业数据高频复杂查询需求。方案基于 NVIDIA cuDF,利用其大规模并行能力和高带宽内存提升数据吞吐,避免成本同比例上升。
AWS 与 Anchor Browser 合作推出基于 x402 协议的智能体支付方案,Anchor Browser 已上架 AWS Marketplace,可与 Amazon Bedrock AgentCore payments 集成,让智能体自动为受 x402 保护的网页和 API 付费。
ComfyUI 将 Nvidia 的 RTX 视频效果做成自定义节点,模型随节点分发并在本地 Nvidia RTX GPU 上运行。
推荐理由:ComfyUI 把 Nvidia RTX 视频超分、插帧与 SDR 转 HDR 做成节点,读者可据此了解本地 VFX 流程的搭建方式。
原文发布
Cursor 的 Origin 应用市场已集成 20 多款应用,覆盖部署、CI、代码审查、安全、监控和项目管理,合作伙伴包括 Cloudflare、Linear、Sentry 和 Socket Security。市场即日起面向公众开放提交,开发者可基于 Origin API 构建应用,经审核后上架。
原文发布
Prime Intellect 宣布收购 Moondream,其创始人 Vik Korrapati 和 Jay Allen 将加入并负责扩展推理业务,同时推进多模态模型(含视觉与 computer use)的工作。
推荐理由:收购与整合细节展示了小模型加专用推理引擎在成本与速度上的取舍,可观察多模态推理栈的走向。
Flox Intelligence 从瑞典 KTH 皇家理工学院分拆,用边缘设备在本地识别靠近铁路、机场和公路的动物,再播放针对物种的声音将其驱离,并让响应方式不断变化以避免动物习惯化。
原文发布
Theory 2026 AI 调查访问 455 名资深技术构建者,安全与治理从一年前的第六位跃升至首要痛点,43% 受访者将其列为最重要问题,而 evals 以 22% 居次。
GitHub 训练了一个专为其产品需求设计的密钥分类器,采用正则候选生成加微调 ModernBERT 上下文分类的两阶段流水线,替代此前的 LLM 流水线。相比旧方案,用户接受率提升 11.5%,推送后扫描中位执行时间降低 86%,服务成本节省超过 98%,并使通用密钥检测得以扩展到推送保护环节。
密歇根大学孵化的 Laplace Intelligence 正为机器人与物理 AI 构建自动化红队测试,用 AI 智能体在仿真中主动寻找失效场景,目标是在部署前发现问题。
Amazon Bedrock 的托管权益(managed entitlements)支持从中心账户订阅一次 AWS Marketplace 私有定价优惠(MPPO),再向组织内多个账户分发模型访问权限。
原文发布
Mastra 平台推出 Metrics API,可查询生产项目的 token 用量、模型成本、延迟和错误率,支持总量、分组、时间序列和百分位数据。该 API 可通过 Mastra Client SDK(需 @mastra/client-js@1.9.0 及以上)、Mastra CLI(需 mastra@1.9.2 及以上)或可观测性端点调用,需平台访问令牌和项目 ID。
前 SpaceX 与 Google 工程师 Rama Afullo 创立的 Satlyt 完成 800 万美元种子轮,其卫星 AI 软件将于周四随 SpaceX 火箭升空,与 Google 空间数据中心项目 Project Suncatcher 的首个原型同乘。
Sam Newman 出版新书《Building Resilient Distributed Systems》,因 AI 相关内容返工修订,耗时三年完成。书中探讨灾难恢复(DR),包括 RPO、RTO 指标,以及备份恢复、pilot light、warm failover 和多站点 active-active 等模式。
原文发布
ShipStation Global 工程团队基于 Amazon Bedrock AgentCore 打造了 Slack 内的 AI IT 服务台 Deckhand,上线后解决了 97.5% 的渠道提问,员工正面反馈率达 96%。
Orca Security 与 AWS 合作,基于 Amazon Bedrock 构建了自然语言查询智能体 Discovery AI,可将自然语言问题转换为 Sonar 查询。相比初始基线,查询成本降低 90%,输入 token 减少 93%,延迟降低 75%,目前每天处理数千次查询,响应时间 15 秒。
AWS 官方博客介绍 Grok 4.7 已在 Amazon Bedrock 上线,并演示如何用它构建工具调用智能体。作者在三个需要搜索而非查表、各有唯一正确答案的任务上,按 low、medium、high、xhigh 四档推理强度各跑六次共 72 次,智能体答对 67 次,xhigh 全部 18 次正确,low 答对 15 次且输出 token 约为 xhigh 的八分之一。
推荐理由:通过 72 次智能体运行对比四档推理强度,给出可迁移的评测设计与生产监控方法。
针对 MoE 模型在解码阶段 M 维过小导致 Hopper GPU 利用率低的问题,AWS 通过 Swap-AB 转置让专家维度 N=8192 进入首个操作数位置,在 H200 上实现端到端输出吞吐提升 2–4%,该优化已合入 vLLM 0.24.0 及之后版本。
NVIDIA 将完整的 Run:ai 平台以开源软件形式发布,向客户、开发者和生态伙伴开放生产级 AI 工作负载与 GPU 编排能力。此次发布扩展了 NVIDIA DSX AI Factory 平台,把 Run:ai 确立为开放基础,让更广泛的生态能够推出差异化解决方案。
推荐理由:NVIDIA 将 Run:ai 全平台开源并纳入 DSX AI Factory,读者可了解 GPU 编排能力的开放范围。
Nvidia 公布 DLSS 5 在《霍格沃茨之遗》中的新对比截图,面部改动明显收敛,该技术将于 11 月 5 日随游戏正式上线,并随后登陆《Where Winds Meet》。
Gradium 的 TTS 模型专为实时 AI 语音智能体设计,在 Coval TTS 基准(2026 年 5 月 4 日数据)上实现 155 ms 中位 TTFA,四分位距仅 2 ms,达到快于人类语音响应的水平。