arXiv · ML· Kaixuan Ji, Zixiang Chen, Wenting Zhao, Cheng Qian, Heng Wang, Weizhi Zhang, Jielin Qiu, Liangwei Yang, Quanquan Gu, Silvio Savarese, Shelby Heinecke, Huan Wang·· 9 小时前AI 评分22
基于延迟单边反馈学习个性化记忆门控
Learning Personalized Memory Gating from Delayed One-Sided Feedback
AI 导读
针对语言模型智能体长期记忆共享门控策略无法适应用户特定模式的缺陷,本文提出基于事实级别的个性化记忆门控方法。 该方法将在线记忆门控形式化为带有延迟单边反馈的上下文苹果品尝问题,并提出了结合离线学习与在线适应的 Warm-Start UCB 算法。 理论分析证明了当延迟窗口不超过 O(√T) 时,算法具有高概率遗憾上界,实验显示其在不同预算和历史长度下均优于基线。
来源:arXiv · ML · arxiv.org