arXiv · NLP· Geonmo Gu, Byeongho Heo, HeeJae Jun, Yoohoon Kang, Sangmin Lee, Sangdoo Yun, Dongyoon Han·· 2026-10-07AI 评分29
DLoop:一种循环式投机解码方法
DLoop: Looped Speculative Decoding
AI 导读
提出循环式投机解码框架 DLoop,通过在模型自信时自适应地执行多轮起草,并在验证阶段统一处理累积的草稿 token,以减少目标模型的前向传播次数。 DLoop 引入循环感知训练策略,使草稿模型能够处理未验证草稿的隐状态。
来源:arXiv · NLP · arxiv.org