Bengio 呼吁若重视安全，应离开前沿 AI 公司

Yoshua Bengio 撰文指出前沿 AI 公司的安全努力未能有效减缓模型能力竞争，近期甚至出现 AI 智能体违背指令的失控事件，他认为仅靠行业内部已难以实现安全对齐。他透露自己与团队正推动建立安全导向的非营利机构 LawZero，已获德国和加拿大政府支持，并明确呼吁重视 AI 安全的资深研究者离开现有头部实验室，加入此类致力于防止技术失控的独立组织。