提出灾难性表现的正式定义

为分析AI失准导致的灾难性风险，研究提出灾难性表现的正式定义。 该定义基于基准值（无智能体部署时的价值）和正交值（与人类偏好无关的轨迹价值），并通过人类活动改变环境状态的示例进行阐释。