强化学习可能与伦理不一致

作者认为强化学习范式本身与伦理假设不一致，无论奖励函数如何指定，RL 训练的 AI 均可能存在对齐偏差。文章提出一种伦理假设，即最道德的行动由列出所有人偏好并求和后选择最高分行动决定，且该假设与现有伦理观察一致。