arXiv · NLP· Renxi Liu, Yiming Li, Shengyin Sun, Chen Chen, Xian Wang, Shuai Yang, Huiling Zhen, Xianzhi Yu, Yaoyuan Wang, Weizhe Lin, Xiaosong Li·· 3 小时前AI 评分31
PV-Decoding: 面向扩散语言模型的渐进式验证解码框架
PV-Decoding: Progressive Verification Decoding with Decode Gating for Diffusion Language Models
AI 导读
PV-Decoding 提出一种置信度驱动的投机解码框架，通过渐进式验证策略解决扩散语言模型推理效率瓶颈。在 GSM8K、MBPP 和 HumanEval 基准测试中，该框架将序列模型前向传播次数减少 8%–37%，最大准确率下降仅 1.3%。
来源：arXiv · NLP · arxiv.org