GuardRebind 基准揭示 LLM 护栏易受重绑定攻击
热点事件持续更新
GuardRebind 基准揭示 LLM 护栏易受重绑定攻击
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
2026 年 10 月 26 日，arXiv 上线一篇由 Utkarsh Kanwat 等发表的安全对齐研究。论文提出“任务重绑定”攻击，即向安全护栏的纯文本提示追加伪造任务和无害诱饵，使护栏误判为对诱饵评分，从而让有害请求原样通过。 在该论文预注册测试中，此攻击可清除 Shieldstral-1.0-3B 标记的全部 75 个 AdvBench 请求。研究人员随后新增了一个保留诱饵评估阶段，以进一步验证攻击的泛化能力。 在提出的 GuardRebind 基准上，五种护栏中每种都有一个被选定的攻击家族能够清除 93% 以上被标记项。该基准专门针对这种重绑定漏洞设计了评估体系，揭示了当前主流护栏的普遍脆弱性。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 12:00
arXiv 论文提出 LLM 安全护栏任务重绑定攻击与防御方法报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv · MLarXiv 论文提出 LLM 安全护栏任务重绑定攻击与防御方法
论文提出“任务重绑定”攻击，即向安全护栏的纯文本提示追加伪造任务和无害诱饵，使其误判为对诱饵评分，从而让有害请求原样通过。在预注册测试中，该攻击可清除 Shieldstral-1.0-3B 标记的全部 75 个 AdvBench 请求；在 GuardRebind 基准上，五种护栏中每种都有至少一个攻击家族能清除 93% 以上被标记项。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。