跳到正文
LessWrong · All Posts· Skye·· 15 小时前AI 评分62

通过安全爬山法对 AI 进行蓝队测试

Blue-teaming AI Through Safety Hillclimbing

AI 导读

受 Anthropic Anvil 系统启发,作者提出让前沿智能体自主寻找越狱并设计安全防护的蓝队测试方法。实验中,任务 GPT 6.1 Sol 改进 Gemma 4 12B 消融变体的安全性,过程称为 rebliteration。

来源:LessWrong · All Posts · lesswrong.com