arXiv · ML· Zhengyang Yu, Akio Hayakawa, Masato Ishii, Qingtao Yu, Xuesong Li, Takashi Shibuya, Yuki Mitsufuji, Jing Zhang·· 11 小时前AI 评分30
Disen-Forcing 解耦自回归视频扩散模型中的语义锚定与运动
Disen-Forcing: Disentangling Semantic Anchoring from Motion for Autoregressive Video Diffusion
AI 导读
研究发现自回归视频扩散模型通过稀疏注意力头实现长程一致性,而非 LLM 式 attention sink。 提出 Disen-Forcing 插件,利用解耦上下文路由和运动解耦正则化,在基准测试中同时提升长程一致性与运动动态。 该方法解决了基于 sink 的方法在模型蒸馏中易导致运动坍缩的过拟合病理,已被 NeurIPS 2026 接收。
来源:arXiv · ML · arxiv.org