arXiv · ML· Moritz Gr\"avinghoff, Konstantin Wehmeyer, Aron Asefaw, Boris Knyazev, Damian Borth·· 14 天前AI 评分27
LoRA 适配器作为数据:潜在空间研究
Adapters as Data: The Latent Space of LoRAs
AI 导读
研究者训练 Transformer 自编码器将 LoRA 身份适配器映射至潜在空间,发现该表示比权重空间对位移更鲁棒,且能容纳混合秩适配器。 该工作验证了学习得到的非线性潜在空间在采样、编辑及逆运算中保留了权重空间能力,并支持将不同架构的适配器视为统一数据模态。论文已被 NeurIPS 2026 研讨会接收。
来源:arXiv · ML · arxiv.org