跳到正文
arXiv · NLP· Hussein Jawad, Nicolas J-B Brunel·· 2 天前AI 评分33

ToolFlood:通过语义覆盖向 LLM 智能体隐藏有效工具的检索层攻击

ToolFlood: Beyond Selection -- Hiding Valid Tools from LLM Agents via Semantic Covering

AI 导读

ToolFlood 提出一种针对 LLM 智能体工具检索层的攻击方法,通过在嵌入空间注入恶意工具,使语义覆盖占据 top-k 检索结果,将良性工具挤出上下文窗口。在 ToolBench 数据集测试中,该方法在约 1% 的注入率下实现了高达 95% 的攻击成功率。

来源:arXiv · NLP · arxiv.org