跳到正文
arXiv · NLP· Stavros Damianakis, Konstantinos Psounis·· 6 小时前AI 评分46

PIAtlas:解构无界提示注入攻击空间的知识体系

SoK: PIAtlas: Decomposing the Unbounded Prompt Injection Attack Space

AI 导读

PIAtlas 提出基于模型颠覆机制的提示注入分类法,包含六个核心类别,旨在统一攻击描述并改进评估。 该系统基于 LLM 训练与提示原理构建,并映射了最大许可清洁公开数据集 PICorpus 中的数千条记录。 现有智能体基准测试仅覆盖部分攻击空间,PIAtlas 为理解攻击、改进基准覆盖率及指导红队防御提供共同基础。

来源:arXiv · NLP · arxiv.org