LessWrong · All Posts· Shivam·· 10 天前AI 评分26
AI 安全:为何无法通过形式化证明解决对齐难题
Would you press the button? The hard problem of alignment
AI 导读
本文指出,仅靠测试无法确认超智能 AI 的对齐性,必须依赖形式化证明,但该证明在计算上极难处理。即使拥有证明其已对齐的形式化结果,也逻辑上不能支持继续开发该超智能系统,从而揭示了 AI 对齐的核心困难。
来源:LessWrong · All Posts · lesswrong.com