arXiv · NLP· Michael Kirchhof, Eleonora Gualdoni, Andrew Szot, Khashayar Gatmiry, Aryo Lotfi, Abbas Kazerouni, Omar Attia, Sanjoy Chowdhury, Alexander Toshev·· 6 小时前AI 评分23
RLTLDR：通过内化自生成反馈实现自我提升
RLTLDR: Self-improvement by Internalizing Self-generated Feedback
AI 导读
RLTLDR 引入“TL;DR”反馈机制，使 Qwen 3.5 9B 模型在 Pass@128=0 的难题中实现自我提升。 模型在失败后生成单条洞察并用于后续采样，通过反向传播内化任务到洞察的映射关系，突破学习瓶颈。 RLTLDR 将无上下文评估时的 Pass@1 从 0%-1% 提升至 12%-13%，证明了紧凑训练范式的有效性。
来源：arXiv · NLP · arxiv.org