跳到正文
LessWrong · All Posts· Scott Alexander·· 4 小时前AI 评分25

为什么 SURA 战略是应对 AI 军备竞赛的危险下策

Against SURA

AI 导读

本文主张不应采取名为 SURA 的“最后一刻烧掉领先优势”策略,即在对齐研究中刻意维持领先直至最后时刻再发布对齐超级智能。 尽管 SURA 能在失败于全局暂停时提供一定时间窗口,但它被判定为高风险方案,作者更推荐提升公众意识、推动政策及准备验证技术的稳健路径。 该论证为评估不同 AI 过渡规划风险提供了对比框架,有助于识别更稳健的治理方案。

来源:LessWrong · All Posts · lesswrong.com