跳到正文
热点事件持续更新

Multi-View MoE 论文发布

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

2026年10月30日,Zelin Zhao等人在arXiv发布论文,提出Multi-View MoE方法。 该方法通过多路由器聚合评分并复用偏好,在固定预算下调制专家计算,提升稀疏MoE选择效率。 实验显示,在24层10B-A1B模型上,该方法使九项下游任务平均分提升1.18个百分点,且仅多路由器模块贡献0.6个百分点增益,在保持激活专家数与通信量不变的情况下,显著改善了路由器评分与专家效用排名的相关性。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. arXiv · NLP
    Multi-View MoE:让每个路由器塑造专家计算

    论文提出 Multi-View MoE,通过多路由器聚合评分并复用偏好来调制专家计算,在固定预算下提升稀疏 MoE 的专家选择效率。 在 24 层 10B-A1B 模型上,该方法使九项下游任务平均分提升 1.18 个百分点,仅多路由器模块也带来 0.6 个百分点增益。 模型在保持激活专家数与通信量不变的情况下,显著改善了路由器评分与专家效用排名的相关性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。