Prism Attention提出跨层稀疏注意力索引共享框架

1. 12:00
   arXiv · NLP

   Prism Attention：面向高效 LLM 推理的提案精化索引共享机制

   Prism Attention 提出一种提案精化的稀疏注意力框架，解决了跨层索引静态复用导致的注意力损失问题。该机制采用由粗到精的策略，在 128K 上下文长度下相比 FlashAttention 实现了 3.4 倍的端到端解码加速。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。