跳到正文
LessWrong · All Posts· Joey Yudelson·· 2 天前AI 评分40

SPAR 项目使用辩论与 Slopvestigators 策略检测研究破坏

[Research Note] Detecting Research Sabotage with Debate & Slopvestigators

AI 导读

SPAR 项目测试发现辩论协议对检测研究破坏相比单裁判几乎无增益,但受 slopvestigation 启发的分解策略以约 0.09 AUROC 领先单裁判。 该研究在 Auditing Sabotage Bench 基准上进行,指出人类在识别细微破坏时表现较差,验证了可扩展监督方法的必要性。 分解策略让并行智能体调查特定范围的破坏,虽领先幅度仍在噪声范围内,但为后续研究提供了有效路径。

来源:LessWrong · All Posts · lesswrong.com