arXiv · AI· Yuqi Jia, Hangsheng Zhang, Chenxi Liu, Junjie Liang, Xun Chen·· 29 天前AI 评分27
ReMAS:首个基于强化学习的多智能体系统黑盒红队测试框架
Black-Box Red-Teaming of Multi-Agent Systems via Reinforcement Learning
AI 导读
该研究提出 ReMAS,这是首个针对多智能体系统(MAS)的基于强化学习的黑盒红队测试框架。它通过微调攻击者 LLM 生成对抗性提示词,以进行系统提示词提取。 框架采用两步流程:先重写基础攻击提示词以提高提取成功率,再生成攻击模板以调用特定子智能体。
来源:arXiv · AI · arxiv.org