arXiv · AI· Jacob Cole·· 6 小时前AI 评分33
二值化如何拉平 LLM 裁判的评分空间
Binarization Flattens the Score Space
AI 导读
大语言模型裁判常将奖励二值化为 0/1,导致无法反映响应在各项标准上的具体表现。 在 MATH 和 SciBench 数据集上,二值化使 14 种构造的逐标准偏差在面板报告中不可见,而使用 3 级评分可使其显现。 保留至少 3 级评分可消除二值化的盲点,但仅靠判决仍不足以区分真实进步与谄媚式提升。
来源:arXiv · AI · arxiv.org