arXiv · ML· Ashkan Shahbazi, Chayne Thrash, Soheil Kolouri·· 2026-10-06AI 评分25
OVAL:输出感知本地页面基底的KV缓存压缩方法
OVAL: Output-Aware Local Page Bases for KV Cache Compression
AI 导读
研究人员提出 OVAL,一种针对长上下文推理的输出感知页面编码方法,在保留检索所需关键信息的同时显著降低近似误差对注意力输出的影响。该方法免训练且推理时无需额外依赖价值统计量,存储大小与解码评分成本等同仅基于Key的谱表示。实验表明,OVAL 在长推理、长上下文理解及生成基准上持续优于基线模型。
来源:arXiv · ML · arxiv.org