跳到正文
arXiv · NLP· Shaswata Mitra, Raj Patel, Subash Neupane, Sudip Mittal, Md Rayhanur Rahman, Shahram Rahimi·· 2026-10-07AI 评分42

DEFER1:LLM 多智能体系统中基于判断边界的安全防御

Where Rules End and Judges Begin: Measuring the Judgment Boundary in Multi-Agent Systems Security

AI 导读

本研究提出 DEFER1 防御框架,通过 28 项确定性检查与四审者小组结合,将攻击成功率从 30.0% 降至 3.0%,78% 的攻击被确定性检查拦截。 框架将安全防御组织为五项原则,确定性规则处理明确违规,判断小组管理意图误判场景,二者结合揭示了多智能体系统安全评估的边界与挑战。

来源:arXiv · NLP · arxiv.org