PyTorch Blog· Sean Chen (Red Hat) and Shangdi Yu (PyTorch, Meta Platforms)·原文发布· 13 天前AI 评分40
用 Helion 为 vLLM 构建高性能、可移植的线性后端
Building a High-Performance and Portable vLLM Linear Backend with Helion
AI 导读
将 Helion 集成进 vLLM 线性后端后，单个 Helion GEMM 实现即可覆盖 Standard GEMM、Split-K、Swap-AB 等变体，并通过按 shape 自动调优选出最佳配置。
本站提供 AI 导读，完整报道请前往来源网站阅读。
阅读原文 PyTorch Blog · pytorch.org