arXiv · NLP· Taikun Chen, Yue Zhang, Wei Qian, Hui Fang·· 11 天前AI 评分20
RL-ATTACK:基于强化学习的黑盒对抗攻击
RL-ATTACK: A Generalized Black-Box Adversarial Attack on Language Models via Reinforcement Learning
AI 导读
RL-ATTACK提出了一种基于强化学习的可训练黑盒对抗攻击框架,通过学习目标模型生成定制化对抗变换。 在黑盒场景中,该方法比依赖外部知识的现有方法具有更高的查询效率。在自然语言推理任务中,它能在20次查询内将攻击后准确率降至2%。 在生成式问答任务中,受训攻击者比未受训攻击者一致地实现更低的攻击后准确率,并在6个场景中的4个场景中胜过强基线。代码已公开。
来源:arXiv · NLP · arxiv.org