arXiv · ML· Linwei Dong, Ruoyu Guo, Ge Bai, Quan Zheng, Yawei Luo, Changqing Zou·· 11 小时前AI 评分27
GDMD：基于梯度强化学习引导分布匹配蒸馏
Guiding Distribution Matching Distillation with Gradient-Based Reinforcement Learning
AI 导读
GDMD框架将强化学习应用于扩散蒸馏，通过优先使用蒸馏梯度而非原始像素输出作为优化信号，解决了样本评分与蒸馏轨迹冲突的问题。该机制将DMD梯度重新解释为隐式目标张量，使奖励模型直接评估蒸馏更新质量，实现自适应加权同步。实验显示，GDMD的4步模型在GenEval和人类偏好指标上超越多步教师模型及DMDR，刷新少步生成SOTA。
来源：arXiv · ML · arxiv.org