arXiv · NLP· Igor Shilov, Xiaoxue Yang, Alexander Panfilov, Evgenii Kortukov, Matthieu Meeus, Peter Romov, Wojciech Samek, Jonas Geiping, Yves-Alexandre de Montjoye·· 5 小时前AI 评分26
Heads of Security：通过学习注意力门提升提示注入鲁棒性
Heads of Security: Learned Attention Gates Improve Prompt Injection Robustness
AI 导读
Heads of Security (HoS) 是一种通过少量学习得到的每头注意力门实施指令与数据分离的提示注入防御机制。 在 Llama-3.3-70B-Instruct 和 GPT-OSS-20B 上评估，HoS 对自适应攻击具有更强鲁棒性；对 RL-Hammer 攻击，HoS 攻击成功率 (ASR) 仅为 10%，而 SecAlign 为 85%。
来源：arXiv · NLP · arxiv.org