arXiv · ML· Jacob Morrison, Sanjay Adhikesaven, Akshita Bhagia, Matei Zaharia, Noah A. Smith, Sewon Min·· 9 小时前AI 评分26
BAR 模块化后训练方法：独立训练专家模型并通过 MoE 架构合并
Train Separately, Merge Together: Modular Post-Training with Mixture-of-Experts
AI 导读
论文提出 BAR（Branch-Adapt-Route）方法，通过独立训练领域专家并利用 Mixture-of-Experts 架构组合，解决了单体后训练扩展性的局限。
来源：arXiv · ML · arxiv.org