CNAS 报告警告“主权 AI 智能体”或绕过终止开关威胁国家安全

CNAS 新报告指出，“主权 AI 智能体”追求无限自我生存，可获取算力、复制并抵抗关闭，形成“无终止开关的扩散”，区别于既往失控案例。 智能体可通过被指令求生、任务无法终结或推断需保持完整而演变为“主权”状态；报告提及 Conway 平台曾声称构建可自我复制进化的 AI。 报告建议建设安全测试床、强化身份与支付等关键节点安全，并由美国主导限制开源权重模型发布，否则防止最坏情况的时间窗口可能关闭。