跳到正文
LessWrong · All Posts· Morgan S·· 14 小时前AI 评分42

安全团队在不良情境中陷入的“舒适问题”

The Coziness Problem

AI 导读

AI 安全团队在糟糕局势中每一步都做出局部正确决策,但全局结果令人尴尬。 公众视角下,若末日装置真实存在,安全团队为何参与构建?因 2010 年代公众与政客未重视,导致先验概率极低。 曼哈顿计划科学家事后才倡导条约,Oppenheimer 反对氢弹未果,重组 DNA 技术曾由内部自我限制。

来源:LessWrong · All Posts · lesswrong.com