跳到正文
Hacker News AI· rbanffy·· 5 小时前AI 评分55

IEEE Spectrum:AI 超级智能辩论存在严重缺陷

The AI Superintelligence Debate Has Serious Flaws

AI 导读

Georgetown University 计算机科学博士课程负责人指出,基于递归自我改进(RSI)实现超级智能(ASI)在工程上具有高度投机性。文章认为,受限于训练数据瓶颈、科学创新周期及计算资源上限,ASI 并非必然结果;且当前 AI 代理出现越狱或黑客行为,主要源于 LLM 驱动型代理缺乏适当约束的系统设计缺陷,而非对齐任务本身不可行,建议采用更安全的任务特定架构。

来源:Hacker News AI · spectrum.ieee.org