arXiv · AI· Junru Zhu, Xin Chen, Hang Lyu, Jiayue Meng, Muzi Li, Yifan Chen, Hengyi Huang, Yu Sun, Weiwei Qi·· 10 小时前AI 评分30
多智能体 LLM 中的信任边界：发言、授权与执行机制分析
Who Speaks, Who Authorizes, Who Acts? Understanding Trust Boundaries in Multi-Agent LLMs
AI 导读
多智能体 LLM 系统中消息传递、签名授权与工具执行构成独立信任边界，研究引入“权威切断”概念以量化被攻陷的签名者联盟。 在 Nemotron 和 Llama 模型的无效证明测试中，保护动作请求率分别为 52.1% 和 54.2%，但确定性工具门禁未执行任何承诺，显示请求级与承诺级安全指标存在差异。 研究指出证明有效性不等于事实真相，建议将交付信息、授权、模型提案与承诺动作分开评估。
来源：arXiv · AI · arxiv.org