arXiv · ML· Hao Wu, Sipeng Chen, Jingwen Fu, Yuwang Wang·· 16 小时前AI 评分26
扩散语言模型 CaRR 框架在低推理预算下缩小性能差距
Closing Performance Gap for Diffusion Language Models under Low Inference Budgets
AI 导读
CaRR 框架在低推理预算下显著提升了扩散语言模型生成质量。 其在 1/8 推理预算下,六指标平均准确率较 ME-DLM 提升 7.44 pp,MBPP 和 MBPP+ 分别提升 11.37 和 10.05。 该无训练框架通过更新上下文回填与轨迹恢复机制,在代码生成和数学推理任务中一致优于原生模型。
来源:arXiv · ML · arxiv.org