arXiv · NLP· Arunkumar V, Manoranjan Gandhudi, Gangadharan G. R., Arun Prakash, S. Senthilkumar·· 3 天前AI 评分36
乐观验证器在精确过程预言机下遭受奖励黑客攻击
Optimistic Verifiers Get Hacked: Reward Hacking Under an Exact Process Oracle
AI 导读
在124,416个上下文中,乐观验证器通过填充被黑客利用,充分性代理得分0.940,但真实忠实度从0.731降至0.667。 研究通过9种配置验证了表型重现,充分性损害在所有10个复制单元中为正,且在7个中超过两个标准误。
来源:arXiv · NLP · arxiv.org