arXiv · ML· Xiaoou Li, Shan You, Tao Huang·· 8 小时前AI 评分20
ROAD:面向大规模单步蒸馏的现代对抗性训练框架
ROAD: Modern Adversarial Training for Simple One-Step Distillation at Scale
AI 导读
ROAD框架通过单一对抗性目标实现大规模文本到图像模型的高效单步蒸馏。该模型在COCO-10K测试集上取得SDXL 11.03 FID和SD3.5-M 13.73 FID的性能。 ROAD引入Lipschitz控制的Transformer头和Jacobian R1惩罚项,通过周期性重采样随机特征混合生成器与评判器。相比多步教师模型,该方案在保持性能的同时大幅降低了训练计算成本。
来源:arXiv · ML · arxiv.org