跳到正文
LessWrong · All Posts· Nabil Baugher·· 8 小时前AI 评分44

能力更强的模型编写更优的探针规避提示词

More Capable Models Write Better Probe Evasion Prompts

AI 导读

红杉研究实习期间,基于探针的白盒监控技术正变得愈发重要,以应对思维链可监控性下降的挑战。 研究设计了一项评估,让14个模型为Qwen3.5-27B编写能规避探针检测的提示词。 实验发现,在Epoch能力指数(ECI)上得分更高的模型,编写的提示词在保持任务完成的同时,能更有效地移动探针分数。

来源:LessWrong · All Posts · lesswrong.com