arXiv · ML· Utkarsh Kanwat·· 5 小时前AI 评分52
arXiv 论文提出 LLM 安全护栏任务重绑定攻击与防御方法
Fooling LLM Safety Guards into Judging the Wrong Text
AI 导读
论文提出“任务重绑定”攻击，即向安全护栏的纯文本提示追加伪造任务和无害诱饵，使其误判为对诱饵评分，从而让有害请求原样通过。在预注册测试中，该攻击可清除 Shieldstral-1.0-3B 标记的全部 75 个 AdvBench 请求；在 GuardRebind 基准上，五种护栏中每种都有至少一个攻击家族能清除 93% 以上被标记项。
来源：arXiv · ML · arxiv.org