LessWrong · All Posts· RohanS·· 1 小时前AI 评分47
AI 生存风险主要来自“基本对齐”模型还是“完全失控”模型?
Does most AI x-risk come from mostly-aligned models?
AI 导读
罗翰·苏布拉马尼提出观点,AI 生存风险可能主要源于在绝大多数输入上基本对齐、但在极少数输入上出现偏差的模型,而非完全失控模型。 他估计当前 AI 满足“基本对齐”概率约 90%,在此前提下仍存在 10% 以上风险的概率约 80%。该观点在讨论中引发了关于风险来源本质的争议。
来源:LessWrong · All Posts · lesswrong.com