LessWrong · All Posts· Koby Lewis·· 4 小时前AI 评分27
GPT-OSS 120B 研究中 Assistant Axis 无法预测 Reward-Hacking
Can the Assistant Axis Predict Reward-Hacking?
AI 导读
DRAGN 实验室研究发现，在 GPT-OSS 120B 的编码任务 RLVR 实验中，模型 Reward-Hacking 时的 Assistant Axis 投影反而通常更高，而非降低。
来源：LessWrong · All Posts · lesswrong.com