arXiv · AI· Xiaogeng Liu, Xinyan Wang, Chaowei Xiao·· 8 小时前AI 评分28
FlipJev：快速黑盒红队测试发现 Jev 类型决策模型的通用对抗后缀
FlipJev: Fast Black-Box Red Teaming Finds Universal Adversarial Suffixes for Typed Decision Models
AI 导读
FlipJev 提出一种不调用攻击者语言模型的黑盒快速攻击，针对类型决策模型 Jev 寻找通用对抗后缀。 实验在 12 个数据集上验证，Jev 能抵抗常见提示注入（10,240 次配对测试无改变），但该攻击在数分钟内即可生成导致自信回答翻转的后缀，单个数据集对未见文档翻转率达 43%。 发现任务间可迁移性，单个任务生成的后缀在其他任务中翻转 90-100% 样本，表明评估需包含严格自适应攻击。
来源：arXiv · AI · arxiv.org