跳到正文
arXiv · NLP· Mingchen Li, Jiatan Huang, Chuxu Zhang, Liang Zhao, Hong Yu·· 2 天前AI 评分28

RAG 的上下文优化:基于梯度下降视角的方法

In-Context Optimization for Retrieval-Augmented Generation: A Gradient-Descent Perspective

AI 导读

summary_zh: 该研究将检索增强生成视为上下文优化过程,证明单层线性自注意力可执行统一线性化 RAG 目标的梯度下降步。 方法保持检索器与骨干冻结,仅预测生成端证据使用接口的上下文条件更新。

来源:arXiv · NLP · arxiv.org