LessWrong · All Posts· Raemon·· 10 天前AI 评分48
认知性突然死亡:AI 能力跃升缺乏中间观察信号
Epistemic Sudden Death
AI 导读
作者提出“认知性突然死亡”概念,指出当前 AI 并非夺取型,但从现在到其具备该能力间没有预期的中间观察信号。 Paul Christiano 同样认为在夺取型 AI 出现前不会观察到新能力,且 Ajeya Cotra 预计前沿智能体可能在六个月内实现流氓部署,使该场景更有可能发生。
来源:LessWrong · All Posts · lesswrong.com