跳到正文
arXiv · AI· Jacob Cole·· 6 小时前AI 评分33

二值化如何拉平 LLM 裁判的评分空间

Binarization Flattens the Score Space

AI 导读

大语言模型裁判常将奖励二值化为 0/1,导致无法反映响应在各项标准上的具体表现。 在 MATH 和 SciBench 数据集上,二值化使 14 种构造的逐标准偏差在面板报告中不可见,而使用 3 级评分可使其显现。 保留至少 3 级评分可消除二值化的盲点,但仅靠判决仍不足以区分真实进步与谄媚式提升。

来源:arXiv · AI · arxiv.org