LessWrong · All Posts· Arepo·· 7 小时前AI 评分42
论证工具性收敛概念缺乏逻辑连贯性，建议下调 AI 灭绝风险概率
Instrumental convergence is incoherent (so pls slightly lower your p(extinction))
AI 导读
作者认为工具性收敛概念基于历史成功率极低的预判，定义模糊且存在根本缺陷。 该观点在 EA 及 AI 安全社区中被广泛内化，却缺乏实证支持。 过度依赖此概念可能削弱 EA 运动的积极影响，甚至引发反事实危害。
来源：LessWrong · All Posts · lesswrong.com