arXiv · AI· Shutong Wu, Jiawei Zhang·· 8 小时前AI 评分39
FreeDave:面向扩散大语言模型无损并行解码的训练无关算法
Free Draft-and-Verification: Toward Lossless Parallel Decoding for Diffusion Large Language Models
AI 导读
FreeDave 提出了一种训练无关且模型无关的快速解码算法,通过利用扩散大语言模型(dLLMs)的固有特性,将未来 token 预测作为“免费草稿”并在后续前向传播中严格自验证,实现算法上无损加速。
来源:arXiv · AI · arxiv.org