arXiv · ML· Junwei Deng, Alex Bie, Natalia Ponomareva·· 29 天前AI 评分25
SimHack:在RL训练前预测可检测奖励黑客的发生
SimHack: Predicting the onset of detectable reward hacking before RL training
AI 导读
该研究提出模拟器SimHack,用于在强化学习运行前预测奖励黑客(reward hacking)的主导发生时间。SimHack能从少数小规模参考运行中学习动态,生成未见目标配方的反事实模拟。
来源:arXiv · ML · arxiv.org