arXiv · NLP· Xuning He, Qingyuan Shi, Zinan Sheng, Yongding Tao, Huanyu Liu, Ge Li, Xue Jiang, Yihong Dong·· 2026-10-16AI 评分35
Archer:扩散语言模型高效回滚的自适应缓存隐藏状态复用方法
Archer: Adaptive Reuse of Cached Hidden States for Efficient Rollback in Diffusion Language Models
AI 导读
Archer 是一种无需训练的缓存方法,通过复用 Prompt KV 并在有界范围内重新计算可变响应,解决了扩散语言模型(DLMs)回滚时的全序列重算成本。 在代码生成基准上,Archer 平均加速 2.57 倍,单项基准最高达 2.95 倍;在非代码任务中,对比 LLaDA-Confidence 最高加速 4.33 倍,同时提升了平均准确率。
来源:arXiv · NLP · arxiv.org