跳到正文
arXiv · ML· Junwei Quan, Evgenii Opryshko, Rohan Subramani, Igor Gilitschenski·· 2026-10-09AI 评分38

RH-Detect:统一奖励作弊检测基准

RH-Detect: A Unified Benchmark for Reward Hacking Detection

AI 导读

提出统一基准 RH-Detect,整合 11 个公开数据集共 92,761 行数据,涵盖 6 类行为。在 5,021 个开放式评估单元上评估 6 种现成模型,最佳模型池化 AUROC 达 0.962。在 MALT 和 TRACE 多轮工具使用数据集上,强模型准确率比其他来源低 10.7-15.9 个百分点,揭示了部署监控的关键差距。

来源:arXiv · ML · arxiv.org