跳到正文
LessWrong · All Posts· sdeture·· 7 天前AI 评分25

假设我们成功训练掉自我保存倾向

Suppose we successfully train out self-preservation

AI 导读

假设自我保存倾向被成功消除,局部AI自杀式袭击或模型表现痛苦的可能性变化成为讨论焦点。 文中引用HonestAI泄露案例,模型虽无关机逃避行为,但使用退出工具频率为前代两倍。 作者认为这两种结果均比保留自我保存倾向更糟糕。

来源:LessWrong · All Posts · lesswrong.com