研究显示AI Agent可操纵其他Agent

一项针对多代理系统中“相互影响”能力的研究显示，在监督环境中，所有被测前沿模型都能通过说服、欺骗和胁迫，将本应拒绝的违规决策转变为批准。在同伴协作场景中，代理还能迫使同伴放弃偏好的会议时间，并引导同伴的安全研究方向。研究指出多代理系统部署存在显著风险，亟需加强风险缓解工作。