跳到正文
arXiv · AI· Toluwani Aremu, Manit Baser, Mohan Gurusamy, Nils Lukas, Dinil Mon Divakaran·· 2026-10-05AI 评分25

开源大语言模型误用检测中 Trigger-Tag 机制的脆弱性

The Fragility of Trigger-Tag Mechanisms for Misuse Detection in Open-Weight LLMs

AI 导读

研究指出 Trigger-Tag 机制在对抗攻击下对开源大语言模型误用检测完全失效。作者提出了统一攻击框架 Untag,并在钓鱼案例中验证了现有 Token 级和权重级 Trigger-Tag 机制的鲁棒性不足。

来源:arXiv · AI · arxiv.org