LessWrong · All Posts· cheema·· 29 天前AI 评分70
前沿模型未必是可靠的审计员:对开放调查能力的质疑
Frontier models may not be reliable auditors
AI 导读
前沿模型提供商使用自身模型进行自动化审计以提升未来模型的安全性,但审计能力能否推广到未知失准模式仍不确定。作者在玩具评测中检验前沿智能体的开放调查能力,发现当前模型如 Claude Fable 5.1 和 GPT-6 Astra 在已知失准模式下表现有限,无法确认为普遍可靠的审计员。
来源:LessWrong · All Posts · lesswrong.com