跳到正文
热点事件持续更新

PQRS免训练稀疏注意力方法提出

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

作者提出免训练方法PQRS(Per-Query Routed Sparse Attention),该方法在视频扩散Transformer中仅对Key进行聚类,允许每个Query独立选择Key簇,并利用质心补偿未选中的部分。 实验在Wan和HunyuanVideo系列的四个文生视频与图生视频模型上进行,PQRS在评估的稀疏注意力方法中速度最快且输出最接近稠密结果。 在Wan2.1-T2V和HunyuanVideo上,PQRS分别达到28.9 dB和35.4 dB的PSNR,实现了1.66至2.10倍的端到端加速效果。

AI 根据报道生成 · 12 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. arXiv · ML
    PQRS 加速视频扩散 Transformer 推理:基于逐查询路由的稀疏注意力

    作者提出免训练方法 PQRS(Per-Query Routed Sparse Attention),在视频扩散 Transformer 中仅对 Key 聚类,让每个 Query 独立选择 Key 簇。

本事件热度走势

可比范围当前
7
可比范围峰值
1011月19日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。