跳到正文
arXiv · NLP· Yichuan Chen, Xin Wang·· 4 小时前AI 评分40

主动记忆召回的规模代价分析

The Price of Scale in Proactive Memory Recall

AI 导读

记忆库规模N增长导致误报率从N=8时的5%激增至N=2048时的87-100%。 理论证明表明门控命中率先降至单比较ROC曲线左侧,随后以N的负幂衰减;采用每提示词规范化可使同等误报下命中率翻倍。 该分析解释了词法与语义通道阈值需随ln N及sqrt(ln N)增长的原因,并验证了置换同门控在无标签下的有效性。

来源:arXiv · NLP · arxiv.org