arXiv · ML· Xingke Yang, Liang Li, Sicong Li, Liwei Guan, Hao Wang, Xiaoqi Qi, Jiang Liu, Xin Fu, Miao Pan·· 17 小时前AI 评分28
EC-MobiLLM 实现异构移动设备与异构骨干的高效协作 LLM 微调
Efficient Collaborative LLM Fine-Tuning over Heterogeneous Mobile Devices via Many Backbones to One Side-Network Tuning
AI 导读
EC-MobiLLM 采用服务器辅助边微调范式和非阻塞异步协作,解决异构移动设备 LLM 微调中的资源开销与同步聚合瓶颈。 实验显示其计算开销降低至少 95.2%,通信成本降低 93.2%,收敛速度比现有方法快 5.1 倍,且保持稳健的微调性能。 该设计支持跨异构骨干对齐,已被 NeurIPS 2026 接收,验证了其在实际 LLM 适配中的有效性。
来源:arXiv · ML · arxiv.org