arXiv · AI· Riya Bharathwaj, Akshara Prabhakar, Roshan Ram, Avni Kothari, Sarah Tan, Huan Wang, Silvio Savarese·· 10 天前AI 评分42
ErosionBench:企业多智能体系统中对齐衰减的探测基准
ErosionBench: Probing Alignment Decay in Enterprise Multi-Agent Systems
AI 导读
ErosionBench 提出一种执行攻击并验证过程级对齐衰减的环境化基准,包含 1,728 个场景及 198 个图像攻击。 现有周边防御导致 54-92% 的合法工作被过度拒绝;提出的校准 Meta-Auditor 在 906 个留出场景中达到 98.5% 召回率,误报率为 2.9%。 该防御监控轨迹而非表面内容,实现通道不变性,使检测对图像和文本攻击同样有效。
来源:arXiv · AI · arxiv.org