arXiv · ML· Weizhong Huang, Huaijia Kou, Tianyu Xie, Xiawu Zheng, Liujuan Cao·· 10 天前AI 评分26
SemanticKV:面向智能体自回归视频生成的语义对齐 KV 缓存压缩方法
Semantically Aligned KV Cache Compression for Efficient Agentic Autoregressive Video Generation
AI 导读
SemanticKV 提出一种免训练方法,利用规划器语义约束指导 KV 缓存压缩,在智能体自回归视频生成中实现高效合成。 该方法通过文本交叉注意力定位约束相关位置,按组平均并最大化注意力权重,以 top-k 选择保留高分缓存项。
来源:arXiv · ML · arxiv.org