跳到正文
arXiv · ML· Elias Malomgr\'e, Pieter Simoens·· 17 天前AI 评分28

MoE-GUIDE 对齐飞轮引导的抑制补丁用于无交互逆强化学习

Alignment Flywheel-Guided Suppression Patching for Interactionless Inverse Reinforcement Learning

AI 导读

论文提出“飞轮引导的补丁”机制,使学习型奖励模型无需重新训练即可进行局部修正。该机制通过 Alignment Flywheel 识别违规区域,生成抑制补丁放入 MoE-GUIDE 潜在空间,仅在在线评估时检索一小部分补丁。MuJoCo 基准测试证明,这种局部修正信息可以修改现有奖励,而不必提供完整的替代奖励。

来源:arXiv · ML · arxiv.org