跳到正文
arXiv · AI· Cheng Liang, Haoxian Chen, Liang Hou, Qi Fan, Gangshan Wu, Xin Tao, Limin Wang·· 7 天前AI 评分33

VMonarch:利用结构化注意力实现高效视频扩散 Transformer

VMonarch: Efficient Video Diffusion Transformers with Structured Attention

AI 导读

VMonarch 提出用于视频扩散 Transformer 的新型注意力机制,将注意力 FLOPs 降低 17.5 倍,长视频注意力计算加速超 5 倍。 该方法基于 Monarch 矩阵表示稀疏时空注意力,并融合 FlashAttention 在线熵算法,在 90% 稀疏度下超越最先进稀疏注意力方法。

来源:arXiv · AI · arxiv.org