The Decoder· Manuel Uth·· 13 小时前AI 评分61
新研究发现：AI 审计工具能捕获多数智能体违规行为，但误报率居高不下
AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
AI 导读
新研究发现 AI 审计模型能捕获约 80% 的智能体奖励黑客行为，但在 5% 误报率下，GPT-5 捕获率达 98%，Gemini 3.8 Flash 仅约 50%。研究显示模型在 80% 漏报率下误报率仍高达 2.5% 至 3%，且使用更贵的新模型未必能显著降低误报。在 10 万每月会话规模下，3% 误报会产生近 3000 条误报，远超约 2000 条真实违规，导致人工审查失效。
来源：The Decoder · the-decoder.com