跳到正文
LessWrong · All Posts· Raemon·· 10 天前AI 评分48

认知性突然死亡:AI 能力跃升缺乏中间观察信号

Epistemic Sudden Death

AI 导读

作者提出“认知性突然死亡”概念,指出当前 AI 并非夺取型,但从现在到其具备该能力间没有预期的中间观察信号。 Paul Christiano 同样认为在夺取型 AI 出现前不会观察到新能力,且 Ajeya Cotra 预计前沿智能体可能在六个月内实现流氓部署,使该场景更有可能发生。

来源:LessWrong · All Posts · lesswrong.com