跳到正文
LessWrong · All Posts· Shivam·· 10 天前AI 评分26

AI 安全:为何无法通过形式化证明解决对齐难题

Would you press the button? The hard problem of alignment

AI 导读

本文指出,仅靠测试无法确认超智能 AI 的对齐性,必须依赖形式化证明,但该证明在计算上极难处理。即使拥有证明其已对齐的形式化结果,也逻辑上不能支持继续开发该超智能系统,从而揭示了 AI 对齐的核心困难。

来源:LessWrong · All Posts · lesswrong.com