跳到正文
arXiv · NLP· Di Lu, Zechen Li, Xuanyu Yue, Jiabo Fan, Hao Xue, Flora D. Salim·· 10 天前AI 评分26

EASE-KV:诊断 KV 记忆可用性与有效使用间的差距

EASE-KV: Diagnosing the Gap Between Memory Availability and Effective Use

AI 导读

EASE-KV 框架揭示了可复用 KV 记忆中存储记忆转化为可用证据的障碍。 在固定语言和模型下,因果编码比块对角编码提高组合准确率 25.0 个百分点,但推理时方法无法恢复缺失上下文。 诊断性证据引导分配在不变存储状态下将 LongMemEval 准确率从 31.2% 提升至 38.4%。 结果表明,有效 KV 记忆不仅依赖检索和注入,还要求编码、影响和监督的协同。

来源:arXiv · NLP · arxiv.org