P(doom) 定义模糊：探讨道德繁荣与乌托邦的期望值

P(doom) 常被使用但定义不明确，Holding Karnofsky 估算 P(misaligned AI) 在 10% 到 90% 之间。 作者列举了多个模糊场景，如价值对齐的 ASI 接管世界或 99.99999% 人类死于生物恐怖袭击但文明幸存，展示了“毁灭”与“非毁灭”界限的模糊性。