arXiv · ML· Seng Pei Liew, Teppei Suzuki, Seiya Tokui·· 2 天前AI 评分21
视觉-语言融合扩展定律:VLM 早期与晚期融合的权衡
Scaling Laws for Vision-Language Fusion
AI 导读
该研究提出统一扩展定律,揭示视觉-语言模型(VLM)中早期融合与晚期融合在固定数据预算下的性能权衡,表明模型规模扩大时早期融合优势更显著。 定律通过分离基础学习轨迹与模态竞争驱动的分布偏移来建模验证损失,实现了对混合比例、训练步长和模型规模下损失的准确预测。
来源:arXiv · ML · arxiv.org