arXiv · ML· Xingke Yang, Liang Li, Zhiyi Wan, Sicong Li, Xiaoqi Qi, Jiang Liu, Tomoaki Ohtsuki, Xin Fu, Miao Pan·· 5 小时前AI 评分28
Eco-MobiLLM 通过服务器辅助侧调优实现移动设备上的高效 LLM 微调
Eco-MobiLLM: Efficient LLM Fine-Tuning on the Mobile Device via Server Assisted Side-Tuning
AI 导读
Eco-MobiLLM 是一种部署于移动设备的高效 LLM 微调方法，通过服务器辅助侧调优显著降低通信与计算负担。该方法利用激活捷径仅传输参与损失计算的 tokens，并引入两阶段训练范式让服务器复用历史激活，避免移动设备对重复样本的多次前向计算，从而加速收敛。
来源：arXiv · ML · arxiv.org