跳到正文
arXiv · AI· Tomas Perez-Acle·· 9 天前AI 评分35

AI 智能体监管不可能性定理:有限规则无法认证所有安全程序

No finite rulebook can certify every safe program: an impossibility theorem for gatekeeping AI agents

AI 导读

研究证明 AI 智能体监管存在不可能性,有限规则无法完全认证所有安全程序,且 220 万次随机程序仿真验证了这一阻碍主要源于对抗性场景而非典型情况。 该定理表明,依赖有限时间机器可验证证据的禁令规则存在单边失效,任何 n 比特的健全规则都会遗漏约 n 比特的合规程序。

来源:arXiv · AI · arxiv.org