研究人员提出稀疏化框架SparseGDN加速长文本推理

研究人员Jiedong Zhuang等团队提出SparseGDN框架，这是一种面向线性注意力的分块稀疏机制，主要设计目标是降低长上下文预填充阶段的计算开销。 该框架的核心技术路径是结合了结构化的块内近似算法与基于输入的动态递归事件选择器，在保留所有输出特征的同时实现计算精简。 在Qwen3.5-4B和9B模型的实测中，该方法实现了GDN核心预填充阶段1.50至1.94倍的加速，且平均仅保留了29%的递归事件。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。