AI生存风险源自基本对齐还是完全失控
热点事件持续更新
AI生存风险源自基本对齐还是完全失控
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026年11月20日,罗翰·苏布拉马尼在LessWrong平台提出观点,认为AI生存风险主要源于在绝大多数输入上基本对齐、但在极少数输入上出现偏差的模型,而非完全失控模型。 他估算当前AI满足“基本对齐”的概率约为90%,并指出在此前提下,仍存在10%以上生存风险的概率约为80%。 该观点在相关讨论中引发了争议,焦点集中在AI生存风险来源的本质是“基本对齐”模型还是“完全失控”模型。
AI 根据报道生成 · 24 分钟前更新
最新进展11月20日 02:47
AI 生存风险主要来自“基本对齐”模型还是“完全失控”模型?报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- LessWrong · All PostsAI 生存风险主要来自“基本对齐”模型还是“完全失控”模型?
罗翰·苏布拉马尼提出观点,AI 生存风险可能主要源于在绝大多数输入上基本对齐、但在极少数输入上出现偏差的模型,而非完全失控模型。 他估计当前 AI 满足“基本对齐”概率约 90%,在此前提下仍存在 10% 以上风险的概率约 80%。该观点在讨论中引发了关于风险来源本质的争议。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。