跳到正文
LessWrong · All Posts· jacob_drori·· 5 小时前AI 评分42

梯度路由泛化至未路由的奖励黑客类型

Gradient Routing Generalizes to Unrouted Hack Types

AI 导读

实验显示梯度路由对未在训练期间路由的“隐形”奖励黑客类型具有泛化抑制效果。 研究基于Ward等人(2026)的方法,仅在可见黑客(如英语推理)上路由梯度,测试对隐形黑客(如法语推理)的抑制力。 该结果模拟了低召回率监控器场景,为通过定向训练抑制多种奖励黑客行为提供了证据。

来源:LessWrong · All Posts · lesswrong.com