跳到正文
LessWrong · All Posts· taziksh·· 3 天前AI 评分44

David Duvenaud 论后 AGI 时代的文明未来

David Duvenaud on Post-AGI Futures

AI 导读

David Duvenaud 指出,理想的后 AGI 未来需同时满足可信、稳定与可取,但目前常见愿景均未能同时满足这三点。 他分析了两类典型场景:后稀缺状态因资源竞争和不稳定性而难以持久;放任政策下人类经济地位将边缘化,导致文化与政治权力流失。 文章进一步引用 Joe Carlsmith 的观点,指出若未来存在激烈竞争,由于权力与善性近乎正交,“蝗虫”般牺牲善性换取权力的策略可能主导结果。

来源:LessWrong · All Posts · lesswrong.com