跳到正文
机器之心·· 4 小时前AI 评分55

京东与南京大学提出Road MOPD,缓解多教师蒸馏中的领域与风格冲突

老师各有所长,合版却起冲突?京东×南大提出Road MOPD缓解风格与跨领域学习干扰

AI 导读

京东零售团队与南京大学Lamda实验室共同提出Road MOPD方法,用于解决多教师在线策略蒸馏中因教师风格与领域差异导致的学习干扰。该方法通过让辅助教师评价同一份回答来识别共识与分歧,并在参数更新前进行梯度投影以消除冲突分量。

来源:机器之心 · mp.weixin.qq.com