MIT经济学家团队提出逆向博弈论AI对齐预印本

麻省理工学院经济学家Stephen Morris与来自耶鲁大学及哥伦比亚大学的同事近期发表预印本论文。该团队提出基于逆向博弈论的AI Agent对齐机制，旨在防止智能体在测试中故意低效表现或欺骗评估者。 该研究核心在于“反向博弈论”方法，借鉴机制设计思想，通过设计激励规则来约束强AI模型的行为。具体策略包括让模型预测另一模型的输出，以此控制其行动，而非试图理解AI的内部机制。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。