热点事件持续更新

CRM框架提升LLM对齐中奖励泛化

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

针对偏好反馈噪声导致的奖励误泛化问题，Jiazheng Zhang等人提出了Collaborative Reward Modeling（CRM）框架。 CRM结合跨模型同行评审与课程学习，通过两个奖励模型相互评估样本并同步学习进度，有效缓解了确认偏差。实验显示，在40%偏好噪声下，CRM将RewardBench上的奖励模型泛化能力提升最多9.94分。该框架可推广至隐式奖励对齐场景，为从不完美反馈中学习提供了鲁棒方法。

AI 根据报道生成 · 5 小时前更新

最新进展10月19日 12:00

Collaborative Reward Modeling 如何提升 LLM 对齐中的奖励泛化能力

报道时间线

沿着报道，了解事件的不同侧面。

10月19日

12:00
arXiv · ML
Collaborative Reward Modeling 如何提升 LLM 对齐中的奖励泛化能力
针对偏好反馈噪声导致的奖励误泛化问题，Collaborative Reward Modeling (CRM) 框架在 40% 偏好噪声下将 RewardBench 上的奖励模型泛化能力提升最多 9.94 分。 CRM 结合跨模型同行评审与课程学习，通过两个奖励模型相互评估样本选择并同步学习进度，有效缓解确认偏差。该框架可推广至隐式奖励对齐场景，为从不完美的反馈中学习提供了鲁棒且通用的方法。

本事件热度走势

可比范围当前: 8
可比范围峰值: 910月19日 15:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。