跳到正文
LessWrong · All Posts· Aswin Surya·· 6 天前AI 评分31

探针监控器在模拟控制环境中表现逼真

Probe monitors seem to perform realistically in simulated control environments

AI 导读

研究表明,探针监控器在模拟环境中检测攻击的捕获率仅比真实运行低1.0个百分点。 该研究使用Qwen3.5-27B对LinuxArena中的1,313项任务进行了模拟与真实攻击测试。结果显示,尽管激活特征存在差异,但差异对探针性能影响有限,95%置信区间包含0。

来源:LessWrong · All Posts · lesswrong.com