arXiv · AI· Hao Yu·· 8 小时前AI 评分40
序数信用分配:仅基于比较的多步强化学习方法
Ordinal Credit Assignment: Multi-Step Reinforcement Learning from Comparisons Alone
AI 导读
提出一种仅依赖序数比较的多步强化学习算法,通过计算动作回报相对其他轨迹的胜率来替代标量奖励。 实验表明该算法性能与标量奖励无显著差异,且使用 LLM 裁判时比较结果比逐点打分高 7-10 分。 方法对标签噪声鲁棒,但尚未完全缩小与 PPO 算法在 HalfCheetah 任务上的性能差距。
来源:arXiv · AI · arxiv.org