arXiv · AI· Mahesh Bhosale, Yuanhao Zhai, Siwei Lyu, Junsong Yuan, David Doermann, Defang Chen·· 23 小时前AI 评分37
FisherDistill:基于闭式 Fisher 判别分析的扩散分布蒸馏方法
FisherDistill: Diffusion Distribution Distillation via Closed-Form Fisher Critics
AI 导读
论文提出 FisherDistill,利用冻结教师模型的中间表示估算统计量,推导出闭式 Fisher 方向以优化生成质量。 该方法无需额外的对抗判别器或其优化循环,在多个蒸馏框架中显著缩小了与对抗精修方法的差距。
来源:arXiv · AI · arxiv.org