跳到正文
arXiv · AI· Vaibhav Singh, Eugene Belilovsky·· 2026-10-14AI 评分31

PACT:基于自身生成路径的扩散语言模型强化学习后训练方法

RL Post-Training Diffusion Language Models Along Their Own Generation Paths

AI 导读

研究团队提出 PACT 方法,解决了扩散语言模型在强化学习后训练中的“轨迹盲目性”问题,该模型在 LLaDA-8B-Instruct 上的 GSM8K 基准提升 9.9 分,MATH500 提升 12.0 分。 PACT 通过联合学习策略与标量势函数,实现无需序列似然估计或重要性比率裁剪,在 GSM8K 任务上以 AGRPO 约一半的训练算力达到其最佳准确率。

来源:arXiv · AI · arxiv.org