2017 年 AI 风险研究项目回顾

作者回顾其 2017 年对 AI 风险的研究项目，虽访谈了正确人选并听到极具预见性的观点，但最终得出了错误结论。 当时 80000 Hours 将 AI 风险列为全球首要问题，而多位机器学习从业者认为目前无需重点关注，这种巨大分歧引发了作者的深入调查。 作者确认基于深度神经网络和强化学习的方法很可能足以实现 AGI，无需复杂新架构。