跳到正文
arXiv · AI· Diego Gosmar, Deborah A. Dahl·· 11 天前AI 评分35

Sentinel Agents:面向多智能体系统的安全可信 Agentic AI 层

Sentinel Agents for Secure and Trustworthy Agentic AI in Multi-Agent Systems

AI 导读

Sentinel Agents 提出由 Coordinator Agent 监管的规则、行为与 LLM 语义检查层,以隔离异常 Agent。 在 1,000 条消息语料上,Gemma 4 12B 实现 F1 0.86 且误报率 0.11,Qwen3 8B 校准后 F1 提升至 0.80。 实验表明检测器组合效果取决于模型校准与聚合逻辑,为多智能体安全部署提供了可操作指引。

来源:arXiv · AI · arxiv.org