跳到正文
热点事件持续更新

John Alderete 团队对比 LoRA 与全量微调效果

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

John Alderete 等人于 2026 年 10 月 24 日在 arXiv 发布论文,针对提示安全分类任务开展 LoRA 与全量微调的控制性对比研究。结果显示,全量微调性能比 LoRA 高 2-3 个百分点,但调整优化学习率可消除这一差距。进一步实验发现,在 LoRA 中增加理由生成策略可提升 4.0 个百分点,但训练后的模型在域外对抗测试中落后于 8B 模型 8-23 个百分点。研究最终指出,适应方式的影响小于训练目标和学习率,且域内准确率不足以评估模型鲁棒性。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv · NLP
    任务格式作为适应因素:提示安全分类中 LoRA 与全量微调的控制性对比

    研究表明,在提示安全分类中,全量微调比 LoRA 性能高 2-3 个百分点,但优化学习率可消除差距。 LoRA 增加理由生成可提升 4.0 个百分点,而训练后模型在域外对抗测试中表现落后于 8B 模型 8-23 个百分点。 适应方式的影响小于训练目标和学习率,且域内准确率不足以评估鲁棒性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。