跳到正文
arXiv · AI· Quanyan Zhu·· 2026-10-14AI 评分40

智能体 AI 的治理框架 ARE:基于罗尔斯反思平衡的计算模型

Computational Reflective Equilibrium for Agentic AI: A Rawlsian Alignment Scaffold for Governance

AI 导读

论文提出计算反思平衡(ARE)框架,作为嵌入智能体系统的罗尔斯式伦理对齐脚手架,用于解决 agentic AI 治理中的复杂对齐难题。 ARE 通过类型化支持/攻击关系连接系统提示、操作员策略、工具证据与候选行动,将治理引入价值优先级与人类介入触发点,并证明其均衡即纳什均衡。 框架提供可追溯性、连贯性与适应性,通过隔离定理等机制保障智能体在安全、可信环境中行动。

来源:arXiv · AI · arxiv.org