跳到正文
arXiv · AI· Shutong Wu, Jiawei Zhang·· 8 小时前AI 评分39

FreeDave:面向扩散大语言模型无损并行解码的训练无关算法

Free Draft-and-Verification: Toward Lossless Parallel Decoding for Diffusion Large Language Models

AI 导读

FreeDave 提出了一种训练无关且模型无关的快速解码算法,通过利用扩散大语言模型(dLLMs)的固有特性,将未来 token 预测作为“免费草稿”并在后续前向传播中严格自验证,实现算法上无损加速。

来源:arXiv · AI · arxiv.org