arXiv · AI· Chao Xu, Maohua Li, Qirui Li, Yixuan Xu, Yanke Zhou, Yunhe Li, Cuifeng Shen, Hanlin Tang, Kan Liu, Tao Lan, Lin Qu, Shao-Qun Zhang·· 6 小时前AI 评分35
DAR 通过跨层信息路由提升 Diffusion Transformer 训练效率
Rethinking Cross-Layer Information Routing in Diffusion Transformers
AI 导读
论文提出 Diffusion-Adaptive Routing (DAR) 替代传统残差连接，解决 DiT 跨层信息流动问题。 在 ImageNet 上，DAR 使 SiT-XL/2 的 FID 提升至 7.56，并以 8.75 倍更少的训练迭代达到基线质量。 该模块兼容 REPA 等增强方法，在蒸馏阶段保持高频细节，代码已开源。 ```
来源：arXiv · AI · arxiv.org