RLTLDR论文提出自生成反馈强化学习方法

arXiv 发布论文《RLTLDR：通过内化自生成反馈实现自我提升》。该研究聚焦于在工具调用和编程等具有挑战性的数据集上，筛选出 Pass@128 为 0 的难题，以评估模型在极端难度下的自我提升能力。 针对 Qwen 3.5 9B Thinking 模型，研究发现标准 GRPO 强化学习方法在此类难题上的 Pass@1 始终停滞在 0% 至 1% 区间。RLTLDR 通过引入“TL;DR”机制，让模型在失败后根据验证器输出生成单条洞察，并利用反向传播内化任务到洞察的映射关系，从而突破学习瓶颈。 实验显示，在训练阶段保持洞察在上下文中时，RLTLDR 的 Pass@1 提升至 14%-31%。关键在于评测阶段移除上下文洞察后，其 Pass@1 仍达到 12%-13%，证明了该方法紧凑训练范式的有效性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。