跳到正文
arXiv · AI· Dongyeun Lee, Amir Zandieh, Vahab Mirrokni, Junmo Kim, Insu Han·· 23 小时前AI 评分31

接受于 NeurIPS 2026 的 HyperVAttention 提出时空聚类加速视频扩散

HyperVAttention: Efficient Sparse Attention with Spatio-Temporal Clustering for Video Diffusion

AI 导读

HyperVAttention 是一款免训练稀疏注意力框架,针对视频扩散 Transformer 的自注意力二次复杂度瓶颈。 该方法通过 3D 局部窗口聚类与混合聚类策略降低开销,并结合硬件感知集群合并提高 CTA 利用率。 在 HunyuanVideo 上实现 2.13 倍速度提升,HVA-Flash 变体达 2.23 倍,且高保真度优于 SVG2。

来源:arXiv · AI · arxiv.org