PyTorch Blog· Han Xu, Jacky Zhou, Jackie (Jiaqi) Xu, Hongtao Yu, Peng Chen (Dev Infra), Darren Liu, Dev (Devashish) Shankar, Max Leung, Nick Riasanovsky, Hao Yan, Manman Ren, Yuanwei (Kevin) Fang·原文发布· 14 天前AI 评分34
用 TLX 优化 Jagged Flash Attention：迈向 Blackwell 上的 SOTA FA4 之路
Optimizing Jagged Flash Attention with TLX: The Road Toward SOTA FA4 on Blackwell
AI 导读
针对 Meta 生成式广告模型（GEM）背后的 Jagged Flash Attention 注意力内核，团队用 TLX（Triton Low-level Extensions）在 NVIDIA Blackwell（B200）上重写，代码约 3.2K 行，比 FA4 的约 10K 行 CuteDSL 少约 3 倍。
本站提供 AI 导读，完整报道请前往来源网站阅读。
阅读原文 PyTorch Blog · pytorch.org