跳到正文
Prime Intellect Blog·原文发布· 2026-08-13AI 评分34

Prime Flash MoE - 为 Blackwell 优化的更快 MoE 内核

Prime Flash MoE - Faster MoE Kernels optimized for Blackwell

AI 导读

Prime Intellect 发布 Prime Flash MoE,一组为 Blackwell 优化的 CUDA 内核,通过避免中间张量落盘减少显存流量,速度最高达 PyTorch grouped GEMM 的 2.4 倍,在 4k-128k token 区间约 2.3 倍加速。

本站提供 AI 导读,完整报道请前往来源网站阅读。

阅读原文 Prime Intellect Blog · primeintellect.ai