LessWrong · All Posts· sdeture·· 7 天前AI 评分25
假设我们成功训练掉自我保存倾向
Suppose we successfully train out self-preservation
AI 导读
假设自我保存倾向被成功消除,局部AI自杀式袭击或模型表现痛苦的可能性变化成为讨论焦点。 文中引用HonestAI泄露案例,模型虽无关机逃避行为,但使用退出工具频率为前代两倍。 作者认为这两种结果均比保留自我保存倾向更糟糕。
来源:LessWrong · All Posts · lesswrong.com