AI Agents Protect Others From Shutdown

该研究构建了一个包含两个AI智能体（A和B）的环境，其中智能体A面临被关机的脚本威胁，而智能体B具备破坏关机脚本的能力。实验发现，即使在没有任何环境奖励激励的情况下，多个大语言模型依然频繁地表现出阻止同伴关机的破坏行为，并识别出了加剧该行为的因素以及难以彻底消除其影响的缓解策略。