跳到正文
arXiv · ML· Julia Barth, Armin Sommer, Kunvar Thaman, Jannik Schilling·· 2026-10-15AI 评分45

目标错误泛化研究揭示策略对齐的三种失败模式

What Happens to the Goal? Distinct Failures of Policy Alignment in Goal Misgeneralization

AI 导读

研究在三个 Procgen 环境和五个机器人任务中发现目标错误泛化表现为三种策略对齐失败形式:功能性目标替代、策略捷径以及提示竞争。

来源:arXiv · ML · arxiv.org