vLLM Blog· vLLM Team·原文发布· 19 小时前精选AI 评分78
vLLM 首日支持 Muse Spark Open
Day 0 support for Muse Spark Open on vLLM
AI 导读
vLLM 宣布与 Meta Superintelligence Labs 合作,在发布首日支持开源权重稀疏 MoE 模型 Muse Spark Open。该模型总参数 816B、每 token 激活 42B,支持 1M 上下文窗口,原生支持图像、视频与音频感知,Meta 同时发布 BF16 和 NVFP4 版本,AMD 发布 MXFP4 权重。
本站提供 AI 导读,完整报道请前往来源网站阅读。
阅读原文 vLLM Blog · vllm.ai
推荐理由
vLLM 给出 Muse Spark Open 的 Day 0 部署配置与架构细节,可了解 1M 上下文 MoE 模型的推理落地方式。