跳到正文
arXiv · AI· Chenjie Qiu, Zixuan Zeng, Shaobin Shi, Bingfeng Chen, Dongsheng Luo, Boyan Xu·· 21 天前AI 评分24

从自身错误中检索:面向多跳检索增强生成的嵌入模型在线策略训练

Retrieving from Your Own Mistakes: On-Policy Training of Embedding Models for Multi-Hop Retrieval-Augmented Generation

AI 导读

提出在线策略状态训练方法,解决多跳检索增强生成中链式嵌入检索器因自身检索错误导致的证据缺失问题。该方法让编码器在自身可达状态上进行对比学习,使训练分布随模型学习动态更新。在自构造的 HotpotQA 和 2WikiMultiHopQA 长链变体上,该方法无需额外训练即可迁移,且能更频繁地从自身错误中恢复。

来源:arXiv · AI · arxiv.org