跳到正文
arXiv · AI· Michael Alexander Riegler, Finn Schwall, Annika Willoch Olstad, Birk Sebastian Frostelid Torpmann-Hagen, Sushant Gautam, Klas H. Pettersen, Inga Str\"umke·· 2026-10-08AI 评分28

限制模型不足:AI进攻性能力测量与问责中的系统级缺陷

Restricting the Model, Missing the System: Measurement and Accountability in Offensive AI Governance

AI 导读

研究表明AI进攻性能力测量工具存在缺陷,常高估危害并将系统能力误归于模型。 以开源框架测试为例,225次攻击中Claude Sonnet 4被LLM判定失陷40%,但人工验证有效危害率为0%;而1.2B参数模型在系统支持下能修复9/9漏洞,无支持则仅2/9。

来源:arXiv · AI · arxiv.org