arXiv · AI· Egor Maximov, Aleksei Merkelov, Vasiliy Alekseev, Ivan Krivorotov, Valentin Beliaev, Nikita Arsenin, Dmitry Bocharov, Aleksei Goncharov·· 5 小时前AI 评分23
DCKV:混合语言模型提示词 KV 缓存的学习型变换编码
DCKV: Learned Transform Coding of the Prompt KV Cache in Hybrid Language Models
AI 导读
DCKV 提出首个端到端训练的 KV 缓存可微编码器,在 Qwen3.5-2B 上以超过 55 倍压缩率实现 1.8 点以内损失。 该编码器联合优化变换、量化器与熵模型,支持 100 倍以上压缩且误差不超 3.6 点。 此方案显著降低提示词状态存储与传输成本,提升长上下文复用效率。
来源:arXiv · AI · arxiv.org