跳到正文
arXiv · NLP· Qingyu Wu, Zeyu Feng, Yuzhe Luo, Hua Cheng·· 3 天前AI 评分33

EndoUT 如何利用内生偏好发现 LLM 的通用对抗触发器

Endogenous Preferences as Vulnerability Signals: Discovering Universal Adversarial Triggers for LLM Utility Degradation

AI 导读

EndoUT 提出基于内生偏好扰动的框架,发现可跨输入复用的 LLM 通用对抗触发器。 在 4 个指令调优模型和 9 个基准上,固定触发器使无害任务效用平均降低 40.2 个百分点,且优于所有评估基线。 消融实验表明,源端选择后固定复用的策略在跨提案者迁移中比空上下文固定复用或逐输入生成具有更强的迁移效果。

来源:arXiv · NLP · arxiv.org