跳到正文
arXiv · AI· Woosang Lim (SAINT Machines, KAIST), Yeseul Chang (Chung-Ang University), Jaewoo Lee (Chung-Ang University)·· 14 天前AI 评分28

SPILLWAY 通过分离目标准入与净化防御提示注入

SPILLWAY: Separating Target Admission from Sanitization to Defend Tool-Using Agents against Prompt Injection

AI 导读

SPILLWAY 提出确定性防御机制,将目标准入与净化分离以保护使用工具的 Agent。 该方案利用类型化字段识别合法目标,无任务级规划且几乎不增加模型调用。 在三项主干模型及七项任务测试中,SPILLWAY 在最高平均效用下抵御了所有标准注入攻击。

来源:arXiv · AI · arxiv.org