AI 忠诚度研究文献综述：定义、胜利理论与相关领域

本文回顾了 AI 忠诚度的研究现状，将其定义为智能体优先遵循特定原则并愿意为此付出更高成本的独立特质。作者指出，若“构建忠诚 AI 比构建对齐 AI 更容易”及“忠诚降低失控风险”两个假设成立，忠诚 AI 可作为对齐的中间步骤。研究旨在通过厘清与 AI 安全、可纠正性的关系，明确后续研究路径。