跳到正文
arXiv · AI· Yunseok Lee, Yunji Kim, Woojin Lee·· 2026-10-05AI 评分30

LLM 智能体间接提示注入攻击的隐蔽性分析

Will the User Ever Know? Covert Indirect Prompt Injection Attacks on Tool-Using LLM Agents

AI 导读

针对 LLM 智能体通过工具执行动作时面临的间接提示注入(IPI)威胁,研究提出了间接隐蔽攻击(ICoA)。ICoA 旨在诱导智能体在执行注入后将控制权交还用户任务,从而在最终响应中不留下痕迹,实现隐蔽成功。该攻击在 AgentDojo 的四个目标模型上取得了最高的隐蔽成功率(CSR),相比最强基线提升了 3.79-12.01 个百分点。

来源:arXiv · AI · arxiv.org