跳到正文
arXiv · AI· Yifan Wang, Jinyi Mu, Mayank Jobanputra, Yu Wang, Soyoung Oh, Isabel Valera, Vera Demberg·· 12 小时前AI 评分26

CoCo 方法如何实现 MoE 奖励模型的响应级忠实解释

Beyond Routing Weights: Faithful Response-Level Interpretation of Mixture-of-Experts Reward Models via Contribution Contrast

AI 导读

针对稀疏 MoE 奖励模型路由权重无法揭示专家如何判断响应的问题,论文提出贡献对比(CoCo)方法,通过选择最大贡献对比的偏好响应对,联合捕捉路由与偏好行为。 CoCo 在自动与人工评估中展现出比基于路由器、评分及稀疏自编码器替代方案更连贯、忠实且专业化的解释,同时保持具有竞争力的奖励建模准确率。

来源:arXiv · AI · arxiv.org