Xu Zheng等发布手机NPU一阶LoRA训练系统
热点事件持续更新
Xu Zheng等发布手机NPU一阶LoRA训练系统
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
Xu Zheng等团队发布支持手机NPU的一阶LoRA训练系统,将冻结权重乘法运算卸载至手机NPU,训练图、适配器与优化器保留在CPU运行。该系统在两款高通骁龙平台上评测了Qwen与Llama共四款大语言模型,并对比了CPU与手机GPU训练器的性能差异。 系统支持后台可恢复执行与热管理,面向每晚个性化(标签在手机端提供)与LaMP-2公开基准两类工作负载,使大语言模型可在本地设备上进行隐私保护微调。
AI 根据报道生成 · 1 小时前更新
最新进展10月20日 12:00
First-Order LoRA Training with Phone NPUs报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- arXiv · MLFirst-Order LoRA Training with Phone NPUs
该系统将 LoRA 训练中的冻结权重乘法运算卸载至手机 NPU,保持训练图与优化器在 CPU 运行。 系统通过复用驻留权重和 FP16 梯度保护机制,在 Snapdragon 平台上评测了 Qwen 和 Llama 模型,对比了 CPU 与手机 GPU 训练器。 支持后台可恢复执行和热管理,允许大语言模型在本地设备上进行隐私保护微调。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。