arXiv · ML· Lingfeng He, De Cheng, Huaijie Wang, Xi Yang, Nannan Wang, Xinbo Gao·· 2026-10-15AI 评分20
LoDA:基于任务驱动子空间分解的 LoRA 持续学习方法
Task-Driven Subspace Decomposition for Knowledge Sharing and Isolation in LoRA-based Continual Learning
AI 导读
研究人员提出 LoDA 方法,通过任务驱动分解构建通用和真正任务特定的 LoRA 子空间,实现知识共享与隔离。 LoDA 固定下投影,通过梯度对齐优化学习鲁棒上投影,并在整合更新前推导闭式重校准公式。 实验表明 LoDA 优于现有持续学习方法,代码已开源,论文被 ICML 2026 接收。
来源:arXiv · ML · arxiv.org