LongSpark实现固定成本并行推测解码

LongSpark提出一种基于块扩散的并行草稿器，旨在解决推测解码中成本随上下文增长的问题。该方法通过从目标模型验证路径提取固定大小的多尺度视图，实现了草稿器解码成本与上下文前缀长度的完全解耦，消除对增长型持久状态的依赖。 据2026年10月arXiv新报道，LongSpark使长上下文任务每输出token时间达到SOTA水平，其核心机制是将草稿器上下文状态降低数个数量级。此进展标志着该框架在效率优化上的关键突破，当前主要依据为一手论文证据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。