跳到正文
arXiv · ML· Rohit Agarwal, Joshua Lin, Mark Braverman, Elad Hazan·· 7 天前AI 评分32

基于激励与修正的 AI 对齐:博弈视角与双层优化方法

AI Alignment via Incentives and Correction

AI 导读

该研究将 AI 对齐重构为“求解者-审计者”博弈问题,指出对齐是固定点问题。模型通过双层优化设计奖励,使奖励设计不再是语义匹配,而是诱导行为均衡。 在 LLM 编码流程实验中,自适应奖励机制维持了监督压力,并大幅减少了产生幻觉错误尝试的次数。

来源:arXiv · ML · arxiv.org