arXiv · NLP· Brendan P. Murphy, Agustina Saenz·· 10 天前AI 评分30
多轮临床智能体安全强化学习:密集奖励为何优于结果奖励
Safe Reinforcement Learning for Multi-Turn Clinical Agents: When Dense Rewards Beat Outcome Rewards
AI 导读
研究发现,仅依赖最终结果奖励训练多轮临床智能体会导致过早决策和高风险案例失败,而分配密集过程信用能提升保留价值并降低崩溃率。 分离探索与利用虽提高高风险案例支持,但会导致低急性度案例信息收集过度,且强化学习无法修复由偏差数据继承的行为缺口。 这证实可验证结果不足以训练可靠智能体,奖励设计必须考虑获取答案的过程。
来源:arXiv · NLP · arxiv.org