arXiv · NLP· Davide Berasi, Matteo Farina, Massimiliano Mancini, Elisa Ricci·· 10 天前AI 评分25
线性模型合并实现多模态数据混合的简单可扩展优化
Linear Model Merging Unlocks Simple and Scalable Multimodal Data Mixture Optimization
AI 导读
研究通过线性模型合并策略优化多模态大语言模型的 SFT 数据混合。该策略使用合并后的代理模型评估不同数据混合的效果。 在 14 个多模态 benchmark 上的实验表明,代理模型能一致选出接近最优的数据混合。这种方法解耦了混合搜索与高成本训练过程,提供了可扩展且高效的优化方案。
来源:arXiv · NLP · arxiv.org