研究揭示长程搜索中模型提前终止的上下文腐烂现象

Shijie Xia 等人在 arXiv 发布的最新研究指出，长程搜索任务中存在“上下文腐烂”现象。模型在未耗尽上下文窗口前，便提前终止或给出错误答案，这是此前被忽视的失败模式。 研究分析了七种上下文管理方法，并提出行为感知并行采样策略。该策略能带来2.6%至4.9%的性能提升，为缓解长程搜索中的上下文衰减提供了有效方案。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。