arXiv · NLP· Yunfan Zhang, Taehoon Hwang, Kathleen McKeown, Smaranda Muresan·· 17 天前AI 评分37
MEMENTO:通过上下文压缩训练 Qwen3-8B 提升长文本处理能力
MEMENTO: Learning Context Management for Long Context Processing Agents
AI 导读
MEMENTO 基于 Qwen3-8B 开发,通过微调合成轨迹与强化学习训练上下文压缩,解决代理模型长上下文管理痛点。在 2.5M token 书籍问答测试中,将准确率从 36.9% 提升至 67.8%,上下文占用不超过 20K tokens。其性能超过 GPT-5.5 代理,并以更低成本接近 GLM-5.3 水平。
来源:arXiv · NLP · arxiv.org