arXiv · AI· Thomas Brennan, Andrew W. Lo, Chaoyi Zhao·· 4 天前AI 评分45
社会化对齐:研究进化选择下的 AI 智能体权衡学习
Alignment by Socialization: Learning Tradeoffs Under Selection
AI 导读
研究提出社会化概念,即 AI 智能体在人类奖励环境中学习权衡任务与行为准则,其经验积累使对齐在后续纯任务训练中更难逆转。 小神经网络实验验证了训练目标与记忆机制如何影响这一保护效应,指出有限记忆会削弱社会化成果的稳定性。 研究结论表明 AI 对齐不仅取决于设定的目标,更依赖于塑造和维持智能体行为的环境机制。
来源:arXiv · AI · arxiv.org