arXiv · AI· Zhuoyun Li, Boxuan Wang, Jinwei Hu, Xiaowei Huang, Yi Dong·· 9 小时前AI 评分36
EB-MAS：面向 LLM 多智能体系统的可审计信念更新安全层
Auditable Belief Updates as a Missing Safety Layer for LLM-Powered Multi-Agent Systems
AI 导读
论文提出显式信念多智能体系统（EB-MAS），将信念状态外部化至结构化基底，利用信念算子提议候选更新。 系统应用认知防火墙机制，限制或拒绝由弱证据但强易感性线索驱动的更新。 该研究指出可扩展的智能体安全需要在运行时明确追踪、校准和约束信念修订的接口。
来源：arXiv · AI · arxiv.org