arXiv · AI· Zhaorun Chen, Xun Liu, Mintong Kang, Jiawei Zhang, Minzhou Pan, Shuang Yang, Bo Li·· 23 小时前AI 评分45
ARMs：基于插件式攻击的自适应多模态模型红队智能体
ARMs: Adaptive Red-Teaming Agent against Multimodal Models with Plug-and-Play Attacks
AI 导读
论文提出 ARMs，一种利用推理增强多步编排的自适应红队智能体，旨在系统性评估视觉语言模型（VLMs）的安全漏洞。 该系统集成了 17 种红队算法并设计了 11 种多模态攻击策略，通过 epsilon-greedy 探索算法平衡攻击多样性与有效性。 实验显示 ARMs 攻击成功率平均高出基线 52.1%，在 Claude-4-Sonnet 上超过 90%。
来源：arXiv · AI · arxiv.org