跳到正文
arXiv · NLP· Geonmo Gu, Byeongho Heo, HeeJae Jun, Yoohoon Kang, Sangmin Lee, Sangdoo Yun, Dongyoon Han·· 2026-10-07AI 评分29

DLoop:一种循环式投机解码方法

DLoop: Looped Speculative Decoding

AI 导读

提出循环式投机解码框架 DLoop,通过在模型自信时自适应地执行多轮起草,并在验证阶段统一处理累积的草稿 token,以减少目标模型的前向传播次数。 DLoop 引入循环感知训练策略,使草稿模型能够处理未验证草稿的隐状态。

来源:arXiv · NLP · arxiv.org