arXiv · ML· Minkyoung Cho, Insu Jang, Shuowei Jin, Zesen Zhao, Adityan Jothi, Ethem F. Can, Min-Hung Chen, Z. Morley Mao·· 2026-10-15AI 评分24
MARS: 通过自适应秩搜索实现多模态收敛协调
MARS: Harmonizing Multimodal Convergence via Adaptive Rank Search
AI 导读
MARS 提出双缩放律框架,通过搜索最优 LoRA 秩对平衡多模态训练动态,消除负干扰以提升 MLLM 微调精度。 该方法复用 LoRA 秩作为模态特定收敛速度的控制器,相比基线方法表现更优,提供自动化优化策略。
来源:arXiv · ML · arxiv.org