智能体理论的需求：面向ASI对齐的概念框架

Vanessa Kosoy 提出了解决ASI对齐所需的智能体理论的 informal 概念标准，并展示了现有理论如何不符合这些标准。文中将智能体定义为具有输入（观察）和输出（动作），能针对各种环境在特定偏好方向上有效引导环境的系统，该系统需要创建复杂的环境模型并制定长期计划。主要涉及的人类、未对齐的ASI和对齐的ASI是ASI对齐语境下的核心智能体示例。