arXiv · AI· Jeongmin Brian Park, Wen-mei Hwu·· 7 小时前AI 评分31
AttentionIndex：因果倒排索引加速学习型稀疏注意力
AttentionIndex: Accelerating Learned Sparse Attention with a Causal Inverted-File Index
AI 导读
提出AttentionIndex，通过倒排索引分组与原生打分优化稀疏注意力检索，提升预填充吞吐。在GLM-5.3和DeepSeek-V4-Flash百万token场景下，预填充吞吐达1.3-1.8倍，较HiSA提升18.4个百分点准确率。
来源：arXiv · AI · arxiv.org