跳到正文
arXiv · AI· Keigo Watanabe, Hiroshi Kera, Kazuhiko Kawamoto·· 6 小时前AI 评分24

LoRA 叠加:跨预训练模型直接求和可提升精度

LoRA Superposition across Pretrained Models

AI 导读

跨 ViT-B/16 等 7 种 CLIP 预训练模型训练 LoRA 后直接求和,可将平均准确率较未适配基线提升 30.21 个百分点,优于留一模型求和仅 0.06 个百分点的提升。

来源:arXiv · AI · arxiv.org