arXiv · ML· Dake Bu, Wei Huang, Andi Han, Si Wu, Hau-San Wong, Qingfu Zhang, Taiji Suzuki, Atsushi Nitanda·· 10 天前AI 评分38
DPRM:用于离散扩散模型的可插拔 Doob h 变换诱导 Token 排序模块
DPRM: A Plug-in Doob h transform-induced Token-Ordering Module for Discrete Diffusion Models
AI 导读
DPRM 通过 Doob h 变换将终端奖励转为过程奖励,作为可插拔模块优化离散扩散模型的 token 排序。 在 9 个开源模型上,该方法将 PUMA GSM8K 准确率提升 14.6%,Omni-Diffusion CLIP-L/14 提升 13.2%,且仅改变 token 顺序而不修改宿主架构。 证明了终端奖励能纠正局部自信但全局低质的选择,代码已开源。
来源:arXiv · ML · arxiv.org