arXiv · ML· Igor Shalygin, Grigorii Davydenko, Andrey Veprikov, Aleksey Antonov, Nikolay Bushkov, Stanislav Moiseev, Aleksandr Beznosikov·· 5 小时前AI 评分34
SimplexLoRA：通过单纯形投影的交替最小化实现动态秩更新
SimplexLoRA: Dynamic Rank Updating via Alternating Minimization with Simplex Projection
AI 导读
研究人员提出参数高效微调方法 SimplexLoRA，该 LoRA 变体在微调过程中根据学习到的重要性自适应调整适配器秩。 在 12 项语言理解、摘要和推理任务中，使用 DeBERTaV3、BART-large、Llama 3.1 8B 和 Qwen3-8B 进行评估，结果一致匹敌或超越标准 LoRA 及近期自适应基线，低秩条件下增益最大。
来源：arXiv · ML · arxiv.org