跳到正文
arXiv · AI· Pengpeng Qiao, Yang Cao, Lingling Zhang, Guo Cheng, Junwei Chen, Manjiang Yu, Wei Yang Bryan Lim, Masatoshi Yoshikawa·· 23 小时前AI 评分33

FedAbA:异构秩下基一致联邦 LoRA 聚合框架

Align Before Aggregation: Basis-Consistent Federated LoRA under Heterogeneous Ranks

AI 导读

论文提出 FedAbA,一种支持异构秩的基一致联邦 LoRA 聚合框架,已在 NeurIPS 2026 接收。 FedAbA 通过提取并全局对齐局部基,在聚合前重构局部矩阵更新,随后结合数据量与一致性权重进行聚合,再执行系数空间 SVD 重构与秩前缀分发。 实验显示 FedAbA 优于现有联邦 LoRA 基线,且在最高秩异构场景下增益最大。

来源:arXiv · AI · arxiv.org