跳到正文
arXiv · ML· Romeo Passaro, Jeongjae Lee, Jong Chul Ye, Michael M. Bronstein, Yoshua Bengio, Alexander Tong, Danyal Rehman·· 6 小时前AI 评分26

DFR 分布基于正则化奖励用于扩散模型与流模型微调

Distribution-Based Regularization for Reward Fine-Tuning Diffusion and Flow Models

AI 导读

针对奖励微调扩散与流模型易引发模式崩溃和分布漂移的问题,研究提出分布功能奖励(DFR)方法。 DFR 通过凸泛函将基于期望奖励的 KL 正则化目标推广为分布依赖的逐样本奖励,直接对生成分布施加约束。 实验表明 DFR 在匹配 KL 基线峰值奖励的同时,多样性最高提升 29%。

来源:arXiv · ML · arxiv.org