Kosoy提出面向ASI对齐的智能体理论标准

2026年11月4日，研究者Vanessa Kosoy在LessWrong发表文章，针对解决通用人工智能（ASI）对齐的需求，提出了一套关于智能体理论的非正式概念性设计标准（desiderata）。这些标准旨在为构建能够应对复杂环境并制定长期计划的智能体提供理论指导，涉及人类、未对齐ASI及对齐ASI等核心主体。 文中具体展示了现有主流智能体理论在符合这些新标准方面存在的不足。该研究从概念框架层面探讨了智能体应如何具备针对多种环境的引导能力，以及创建复杂环境模型的能力，试图为ASI对齐领域的理论建设提供新的批判视角与设计依据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。