arXiv · AI· Xilong Wang, Xiaoxing Chen, Neil Gong·· 4 天前AI 评分24
多智能体系统通过设计保障安全:ReMA 攻击与 SecMAS 防御
Securing Multi-Agent Systems by Design
AI 导读
论文提出响应操纵攻击 ReMA 优化恶意输入,并开发安全聚合规则 SecMAS 防御该类攻击。 SecMAS 利用响应间的语义相似度,选择与足够大子集最一致的响应,理论上保证了对定向与非定向攻击的安全性。 实验表明现有聚合规则易受 ReMA 攻击,而 SecMAS 能有效防御包括自适应变体在内的攻击,同时保持可比效用。
来源:arXiv · AI · arxiv.org