arXiv · NLP· Yichuan Chen, Xin Wang·· 4 小时前AI 评分40
主动记忆召回的规模代价分析
The Price of Scale in Proactive Memory Recall
AI 导读
记忆库规模N增长导致误报率从N=8时的5%激增至N=2048时的87-100%。 理论证明表明门控命中率先降至单比较ROC曲线左侧,随后以N的负幂衰减;采用每提示词规范化可使同等误报下命中率翻倍。 该分析解释了词法与语义通道阈值需随ln N及sqrt(ln N)增长的原因,并验证了置换同门控在无标签下的有效性。
来源:arXiv · NLP · arxiv.org