arXiv · NLP· Lei Yang, Siyu Ding, Deyi Xiong·· 6 小时前AI 评分34
多领域强化学习中的局部冲突与定向修复:扰动分析
Local Conflict, Targeted Repair: A Perturbation Analysis of Multi-Domain RL
AI 导读
多领域强化学习后训练常导致模型在数学、代码等任务上的能力干扰与退化,且全域梯度近乎正交。 局部扰动模型将损失变化分解为一阶项与路径平均曲率项,解释了短程刷新带来的恢复效果。
来源:arXiv · NLP · arxiv.org