arXiv · AI· Lingyi Long, Congyue Zhao, Xiaoou Li, Yanmin Qian, Tao Huang·· 2026-10-14AI 评分34
LinMorph: 通过学习权重变形实现高效 Video DiT 线性化
LinMorph: Learning to Morph Weights for Efficient Video DiT Linearization
AI 导读
LinMorph 提出将 Video DiT 线性化重构为可学习的 softmax 到线性权重转换问题,以解决现有方法中初始化的根本瓶颈。 该方法学习跨参数变形,使目标 Gated DeltaNet 参数从预训练的 query、key、value 和输出投影中联合汲取知识,而非复制预定义对应物。
来源:arXiv · AI · arxiv.org