arXiv · AI· Kaushik Kezendirane·· 17 天前AI 评分38
更强能力的 LLM 监控器如何区分奖励黑客攻击与诚实失败
Hacking or Just Failing? A More Capable LLM Monitor Better Separates Reward Hacking from Honest Failure
AI 导读
在 Llama 3.1 8B 代理的 60 个集数中,小型本地监控器未能有效区分利用尝试与诚实失败,预注册主要监控器的 AUC 仅为 0.64。 Gemini 3.1 Flash-Lite 在相同输入下达到预注册的 0.80 AUC 标准,但其对未命名利用的检测存在局限;8B 监控器在获取完整轨迹后能标记所有 25 个复现集,却常描述未发生的动作。研究团队已发布该环境、标签及预注册日志供参考。
来源:arXiv · AI · arxiv.org