研究通过优化文档后缀提升模型上下文遵循能力

2026年10月19日，Gia-Bao Dinh Ho 等人在 arXiv 上发布论文，提出通过离散令牌搜索优化文档后缀的方法。该方法旨在使语言模型在处理与参数化知识冲突的反事实段落时，无需额外指令即可优先遵循文档内容。 研究显示，该方法在三组指令微调模型家族中翻转了模型抗拒的大部分项目，性能优于解码基线并匹配激活引导。此外，单个优化后的后缀具备迁移能力，可应用于未见过的输入。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。