发布分层稀疏注意力（SSA）论文
热点事件持续更新
发布分层稀疏注意力（SSA）论文
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Sahil Joshi 等人于 2026 年 10 月 20 日在 arXiv 发布论文《Stratified Sparse Attention: Reducing the Sparse-to-Dense Gap at Extreme Sparsity》，并开源代码。 研究在 3B 至 27B 的 5 个模型上验证，分层稀疏注意力（SSA）在极端稀疏度下始终优于等稀疏度基线，显著缩小了稀疏与稠密注意力的性能差距。 在 RULER-HARD 基准测试中，SSA 将 32K 上下文在 50 倍稀疏度下的准确率从 81.8% 提升至 84.2%；采用优化 CUDA 内核后，其在 1M 上下文的解码速度较 FlashInfer 快至 2.96 倍。
AI 根据报道生成 · 2 小时前更新
最新进展10月21日 12:00
Stratified Sparse Attention：在极端稀疏度下缩小稀疏-稠密差距报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- arXiv · AIStratified Sparse Attention：在极端稀疏度下缩小稀疏-稠密差距
在 3B-27B 的 5 个模型上，分层稀疏注意力（SSA）始终优于等稀疏度基线，显著缩小稀疏与稠密注意力的差距。 在 RULER-HARD 上，SSA 在 50 倍稀疏度下将 32K 上下文准确率从 81.8% 提升至 84.2%。 采用优化 CUDA 内核后，SSA 在 1M 上下文的解码速度相比 FlashInfer 快至 2.96 倍。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1010月21日 13:00
- 近 24 小时变化
- –
02.557.510
13:0014:0015:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。