跳到正文
arXiv · AI· Stavros Damianakis, Konstantinos Psounis·· 13 小时前AI 评分41

AutoPI:面向 LLM Agent 提示注入的自适应红队测试框架

AutoPI: Taxonomy-Guided Adaptive Red Teaming for Prompt Injection in LLM Agents

AI 导读

AutoPI 提出基于 PIAtlas 分类法的自适应红队方法,用于系统覆盖 LLM Agent 提示注入攻击。 该方法在 AgentDojo 基准上对 Qwen3.6-35B 实现全分类覆盖,对 Claude Haiku 5.5 的 ASR 提升 20%–50%。 代码与攻击数据已开源,支持可复现的覆盖率评估。

来源:arXiv · AI · arxiv.org