arXiv · AI· Zheng Wang, Davis Wertheimer, Yu Chin Fabian Lim, Mudhakar Srivatsa, Raghu K. Ganti, Minjia Zhang, Naigang Wang·· 1 天前AI 评分26
xPress：针对扩散草稿器的并行精化以改进投机解码
XPress: Parallel Refinement for Diffusion Drafters in Speculative Decoding
AI 导读
研究提出轻量级因果精化器 xPress，通过并行精化恢复扩散草稿器中缺失的因果依赖，解决独立采样导致的联合概率低问题。 在 Qwen3-8B 模型及七个基准测试中，xPress 使平均接受长度提升约 30%，端到端解码吞吐量提升约 1.3 倍。
来源：arXiv · AI · arxiv.org