跳到正文
热点事件持续更新

AI生存风险源自基本对齐还是完全失控

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

2026年11月20日,罗翰·苏布拉马尼在LessWrong平台提出观点,认为AI生存风险主要源于在绝大多数输入上基本对齐、但在极少数输入上出现偏差的模型,而非完全失控模型。 他估算当前AI满足“基本对齐”的概率约为90%,并指出在此前提下,仍存在10%以上生存风险的概率约为80%。 该观点在相关讨论中引发了争议,焦点集中在AI生存风险来源的本质是“基本对齐”模型还是“完全失控”模型。

AI 根据报道生成 · 24 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. LessWrong · All Posts
    AI 生存风险主要来自“基本对齐”模型还是“完全失控”模型?

    罗翰·苏布拉马尼提出观点,AI 生存风险可能主要源于在绝大多数输入上基本对齐、但在极少数输入上出现偏差的模型,而非完全失控模型。 他估计当前 AI 满足“基本对齐”概率约 90%,在此前提下仍存在 10% 以上风险的概率约 80%。该观点在讨论中引发了关于风险来源本质的争议。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。