arXiv · AI· Alan Chan, Christoph Winter, Andrew Barto, Jakub Pachocki, Geoffrey Hinton, Eric Horvitz, Yoshua Bengio, Dawn Song, Jack Clark, Hilary Greaves, Anton Korinek, Samuel Hammond, Thore Graepel, Ben Bariach, Philip H. S. Torr, Sheila A. McIlraith, Jeff Clune, Sam Manning, Girish Sastry, Tom Davidson, Daniel Eth, S\"oren Mindermann·· 1 天前AI 评分50
AI 研发自动化可能引发智能爆炸的风险与应对
What if automating AI R&D triggers an intelligence explosion?
AI 导读
多领域学者指出，AI 系统有望在未来几年内自动化大部分 AI 研发工作，这可能引发“智能爆炸”，将数年的技术进步压缩至数月。 智能爆炸可能极大加速 AI 效益，但也会带来超级 AI 失控及权力制衡被严重侵蚀的极端风险。 鉴于不确定性高且利害关系重大，政策制定者应紧急增强对 AI 研发自动化的可见性，并制定相关约束措施。
来源：arXiv · AI · arxiv.org