arXiv · ML· Haocheng Xi, Yiming Xie, Hexu Zhao, Yiwen Zhang, Michael Liu, Thomas Creavin, Kurt Keutzer, Xiuyu Li, Zhaoyang Lv, Chenfeng Xu, Haiwen Feng·· 2026-10-05AI 评分41
Video DeltaNet: 面向直播视频生成的视频原生混合注意力机制
Video DeltaNet: A Video-Native Hybrid Attention for Livestream Video Generation
AI 导读
研究提出Video DeltaNet(VDN)架构,通过结合局部Softmax注意力与双向线性记忆解决视频扩散模型注意力计算瓶颈。该架构实例化于MiniMax H3模型,配合八步蒸馏与优化后的SGLang服务栈,在八块NVIDIA B200 GPU上将14.3秒768p视频的DiT去噪时间缩短至6.70秒,实现14.5倍加速。
来源:arXiv · ML · arxiv.org