OpenAttention发布1%读取率保精度

2026年10月23日，Hyunwoo Yu等人在arXiv（cs.lg）发布OpenAttention论文。该研究提出一种基于尾部分数代理的高效稀疏注意力机制，结合了Query-Geometry Clustering（QGC）、ErrorGate门控与top-k选择。 该机制的核心在于通过“数量感知均值”代理处理未读KV缓存尾部。测试结果显示，在Llama-3.1-8B模型上，该方案以1%的读取率保留了99%的稠密注意力精度，实现了高精度的显著压缩。 在性能方面，该机制配有自定义内核，使解码阶段注意力计算速度比稠密注意力快10倍。该发布标志着稀疏注意力在保持近乎稠密精度同时大幅加速推理方面取得进展。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。