arXiv · AI· Gayane Ghazaryan, Esra D\"onmez·· 4 小时前AI 评分23
更优奖励模型未必更无偏：超越标准基准的社会对齐
Better Reward Models Are Not Always Less Biased: Social Alignment Beyond Standard Reward Benchmarks
AI 导读
研究表明，当前奖励模型在LMM对齐中表现出的强大基准性能可能掩盖其社会行为差异。 分析显示，避免某些刻板印象可能会以牺牲上下文保真度为代价，且标准基准分数与社会对齐行为关联不一致。 结果激励对奖励模型中编码的社会偏好进行更直接的评估。
来源：arXiv · AI · arxiv.org