arXiv · ML· Sara Abdali, Pashmina Cameron·· 2026-10-07AI 评分25
JIVEAdapter:基于联合与个体变异解释的多任务加法低秩适配器
JIVEAdapter: A Multi-Task Additive Low-Rank Adapter via Joint and Individual Variation Explained (JIVE)
AI 导读
JIVEAdapter 提出了一种多任务加法低秩适配器,将权重更新分解为共享的 Joint 结构和特定任务的 Individual 结构。 该模型对 Individual 结构施加惩罚以保持近正交性,并自适应分配秩资源,无需 MoE 等额外模块。
来源:arXiv · ML · arxiv.org