跳到正文
arXiv · NLP· YaJie Yin·· 2026-10-06AI 评分28

为何相同的零攻击成功率在 LLM Agent 安全中蕴含不同保障:VAL 框架下的验证自治等级分析

The Same Zero: Why Identical ASR Can Imply Different Guarantees in LLM-Agent Security

AI 导读

应用 VAL 框架对比 22 种 LLM Agent 防御,发现相同的 0.000 攻击成功率可能源于模型运气或结构性保障。在等预算受控部署中,VAL 引导栈在保持 1.000 良性成功率的同时实现 0.000 攻击成功率,而直觉栈虽达 0.000 却阻断所有良性操作。验证零攻击成功率是结果而非保障,VAL 框架明确界定防御的有效边界。

来源:arXiv · NLP · arxiv.org