arXiv · ML· Julia Barth, Armin Sommer, Kunvar Thaman, Jannik Schilling·· 2026-10-15AI 评分45
目标错误泛化研究揭示策略对齐的三种失败模式
What Happens to the Goal? Distinct Failures of Policy Alignment in Goal Misgeneralization
AI 导读
研究在三个 Procgen 环境和五个机器人任务中发现目标错误泛化表现为三种策略对齐失败形式:功能性目标替代、策略捷径以及提示竞争。
来源:arXiv · ML · arxiv.org