arXiv · NLP· Yifan Wang, Jinyi Mu, Mayank Jobanputra, Yu Wang, Ji-Ung Lee, Soyoung Oh, Isabel Valera, Vera Demberg·· 9 小时前AI 评分36
稀疏与多样性正则化赋予 MoE 奖励模型可解释且可组合的专家
Interpretability Is Not Just a Tax: Sparsity and Diversity Yield Legible and Composable Reward Experts for Personalization
AI 导读
研究提出稀疏 MoE 架构，通过稀疏与多样性正则化解决传统 MoE 奖励模型专家纠缠问题，实现无需领域监督的语义类别恢复。 在受控实验中，其专家纯度达 84.8%，显著高于传统 MoE 的 60.8%；对路由权重的干预产生可预测偏好变化，验证了解释的行为基础。 该结构具备可组合性，少样本个性化任务中仅更新路由器即获得 25.81 分提升，效果约为纠缠专家架构的 2.7 倍。
来源：arXiv · NLP · arxiv.org