arXiv · NLP· Kejian Zhu, Zhuoran Jin, Shangqing Tu, Tianyi Men, Yupu Hao, Jiachun Li, Kang Liu, Jun Zhao·· 8 小时前AI 评分29
多轮强化学习如何真正提升 LLM 智能体表现?
What Does Multi-Turn Reinforcement Learning Really Improve in LLM Agents?
AI 导读
研究显示多轮强化学习(RL)在 LLM 智能体上的增益高度依赖交互预算,当轮数预算收紧时轨迹级优势会显著减弱。其核心优势集中于错误恢复与长程韧性,而非均匀提升单步决策质量。 针对部署风险,论文提出 BudgetMix RL 作为替代方案,在训练中动态调整交互预算。实验表明该方法能在多种执行设置下保持稳健性能。
来源:arXiv · NLP · arxiv.org