GLM5.3 稀疏注意力如何影响 HBM 内存占用

SemiAnalysis 分析 GLM-5.3 的稀疏注意力对 HBM 与 NAND 内存占用的影响，指出稀疏注意力只在 SDPA 环节降低 KV cache 的内存与带宽需求，并不减少整体内存容量占用，因为 top-k 选择仍需完整上下文驻留 HBM。