跳到正文
arXiv · AI· Vincent Conitzer·· 10 天前AI 评分49

递归自我改进(RSI)是否安全?

Is Recursive Self-Improvement Safe?

AI 导读

当前前沿AI在编程、数学及长时程任务上的能力使递归自我改进(RSI)从概念走向可行。 文章指出缺乏评估RSI结果的清晰框架,并对多方参与下的博弈选择进行了快速分析。 RSI引发业界对安全性及启动条件的广泛关注。

来源:arXiv · AI · arxiv.org