跳到正文
arXiv · AI· Zhen Wang, Ning Lai, Qingtao Yu·· 4 小时前AI 评分24

CALM 离线校准压缩视频生成 KV 缓存

Offline Makes Online Better: Calibrated Cache Compression for Video Generation

AI 导读

CALM 通过离线校准层头合并策略,在相同显存预算下优化视频生成 KV 缓存压缩,使 LPIPS 降低约 21%。 该方法利用注意力输出误差作为轻量代理,结合动态规划确定最佳合并比例分配。

来源:arXiv · AI · arxiv.org