arXiv · ML· Elias Malomgr\'e, Pieter Simoens·· 17 天前AI 评分28
MoE-GUIDE 对齐飞轮引导的抑制补丁用于无交互逆强化学习
Alignment Flywheel-Guided Suppression Patching for Interactionless Inverse Reinforcement Learning
AI 导读
论文提出“飞轮引导的补丁”机制,使学习型奖励模型无需重新训练即可进行局部修正。该机制通过 Alignment Flywheel 识别违规区域,生成抑制补丁放入 MoE-GUIDE 潜在空间,仅在在线评估时检索一小部分补丁。MuJoCo 基准测试证明,这种局部修正信息可以修改现有奖励,而不必提供完整的替代奖励。
来源:arXiv · ML · arxiv.org