Igor Shilov等提出Head of Security注意力门控防御机制
热点事件持续更新
Igor Shilov等提出Head of Security注意力门控防御机制
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Igor Shilov等研究人员在arXiv（cs.CL）提出Head of Security (HoS)提示注入防御机制。该机制通过少量学习得到的每头注意力门，强制实现指令与数据分离，以提升模型面对提示注入时的鲁棒性。该报道为本次事件的首个明确来源，未涉及更早或后续报道的矛盾信息。 在Llama-3.3-70B-Instruct与GPT-OSS-20B模型上评估，HoS相比SecAlign展现更强鲁棒性。针对RL-Hammer攻击，HoS的攻击成功率（ASR）仅为10%，而SecAlign达85%。同时，HoS在标准选择题基准和提示设置中保持了基础模型的效用，而SecAlign与ASIDE在少样本设置中出现性能下降。该评估结果均限定于前述两个模型平台及特定攻击场景。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 12:00
Heads of Security：通过学习注意力门提升提示注入鲁棒性报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · NLPHeads of Security：通过学习注意力门提升提示注入鲁棒性
Heads of Security (HoS) 是一种通过少量学习得到的每头注意力门实施指令与数据分离的提示注入防御机制。 在 Llama-3.3-70B-Instruct 和 GPT-OSS-20B 上评估，HoS 对自适应攻击具有更强鲁棒性；对 RL-Hammer 攻击，HoS 攻击成功率 (ASR) 仅为 10%，而 SecAlign 为 85%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。