跳到正文
热点事件持续更新

Xu Zheng等发布手机NPU一阶LoRA训练系统

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

Xu Zheng等团队发布支持手机NPU的一阶LoRA训练系统,将冻结权重乘法运算卸载至手机NPU,训练图、适配器与优化器保留在CPU运行。该系统在两款高通骁龙平台上评测了Qwen与Llama共四款大语言模型,并对比了CPU与手机GPU训练器的性能差异。 系统支持后台可恢复执行与热管理,面向每晚个性化(标签在手机端提供)与LaMP-2公开基准两类工作负载,使大语言模型可在本地设备上进行隐私保护微调。

AI 根据报道生成 · 1 小时前更新

最新进展10月20日 12:00
First-Order LoRA Training with Phone NPUs

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. arXiv · ML
    First-Order LoRA Training with Phone NPUs

    该系统将 LoRA 训练中的冻结权重乘法运算卸载至手机 NPU,保持训练图与优化器在 CPU 运行。 系统通过复用驻留权重和 FP16 梯度保护机制,在 Snapdragon 平台上评测了 Qwen 和 Llama 模型,对比了 CPU 与手机 GPU 训练器。 支持后台可恢复执行和热管理,允许大语言模型在本地设备上进行隐私保护微调。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。