跳到正文
arXiv · AI· Shenghui Li, Thiemo voigt·· 5 小时前AI 评分20

基于功能感知的 LoRA 适配器队列事后压缩

LoRA on a Budget: Function-Aware Post-Hoc Compression for Adapter Fleets

AI 导读

研究提出功能秩分配(FRA)方法,在共享秩预算下对 LoRA 适配器队列进行事后压缩。 FRA 通过构建功能秩失真前沿,结合动态规划求解无标签代理,并以光谱提案限制误差,随后执行精确 minimax 分配。 在 78 个适配器的三个公开队列测试中,FRA 在受限预算下改善了最差情况与尾部效用表现。

来源:arXiv · AI · arxiv.org