跳到正文
arXiv · NLP· Lizhuo Luo, Zhuoran Shi, Jiajun Luo, Zhi Wang, Shen Ren, Wenya Wang, Tianwei Zhang·· 10 天前AI 评分38

DAWN: 面向扩散大语言模型的高效依赖感知推理

DAWN: Dependency-Aware Fast Inference for Diffusion LLMs

AI 导读

论文提出名为 DAWN 的训练无关解码方法,通过提取 token 间的依赖关系加速 dLLM 推理。该方法利用依赖图选择更可靠的解码位置,在多个模型和测试集上将推理速度提升 1.80-8.06 倍,同时保持生成质量不变。相关工作已被 NeurIPS 2026 主会接收。

来源:arXiv · NLP · arxiv.org