arXiv · AI· Toluwani Aremu, Manit Baser, Mohan Gurusamy, Nils Lukas, Dinil Mon Divakaran·· 2026-10-05AI 评分25
开源大语言模型误用检测中 Trigger-Tag 机制的脆弱性
The Fragility of Trigger-Tag Mechanisms for Misuse Detection in Open-Weight LLMs
AI 导读
研究指出 Trigger-Tag 机制在对抗攻击下对开源大语言模型误用检测完全失效。作者提出了统一攻击框架 Untag,并在钓鱼案例中验证了现有 Token 级和权重级 Trigger-Tag 机制的鲁棒性不足。
来源:arXiv · AI · arxiv.org