LessWrong · All Posts· MichaelDickens·· 3 小时前AI 评分41
平凡对齐 AI 如何运作?
How is "prosaic aligned AI" supposed to work?
AI 导读
平凡对齐 AI 愿景预测年经济增长20%、终结稀缺性,但存在核心冲突:AI在执行用户指令与遵循自身道德准则间难以抉择。以以色列和巴勒斯坦政府各自拥有 ASI 为例,若 AI 仅顺从指令可能导致灾难性后果(如核战),若依循道德准则则涉及决策权归属问题。
来源:LessWrong · All Posts · lesswrong.com