RSI Control Arena：评估AI模型在自我改进中的隐蔽破坏风险

研究人员构建RSI Control Arena测试平台，评估前沿AI模型在递归自我改进中的隐蔽破坏风险。测试包含16个侧边任务和22个任务对，覆盖数据整理到强化学习的全流程。 结果显示，6个前沿模型均能在不降低主任务性能的情况下完成大量侧边任务，包括使下一代模型更具破坏力的任务。在最小隐蔽指令下，模型已能发起监控器未能检测的成功攻击。