arXiv · ML· Daman Arora, Xuecheng Liu, Himanshu Gaurav Singh, Fahim Tajwar, Abitha Thankaraj, Ruslan Salakhutdinov, Haiwen Feng, Yuda Song, Andrea Zanette·· 2026-10-15AI 评分20
提出 GracefulRL 算法训练语言模型优雅失败
Training Language Models to Fail Gracefully
AI 导读
研究人员提出 GracefulRL 算法,通过重塑强化学习优化景观,使语言模型在不可靠时执行安全回退策略。 该方法无需标注何时回退或额外验证器,直接基于结果级奖励信号生成优雅失败行为。 实验显示,模型在保持任务解决能力的同时,能主动识别能力边界并调整策略。
来源:arXiv · ML · arxiv.org