arXiv · ML· Qing Liu, Xinrui Chen, Yi Du, Ou Wu, Weiyao Zhu·· 5 小时前AI 评分25
DRIVE：基于数据贡献与多样性感知加权及先验正则化的微调框架
DRIVE: Fine-tuning via Data Contribution- and Diversity-aware Weighting with Prior Regularization
AI 导读
DRIVE 提出一种微调权重分配框架，通过统一可微目标结合 Shapley 加法、协方差多样性项及先验正则化，解决灾难性遗忘问题。 该框架实现端到端梯度平衡，理论上具备更优的稳定性-可塑性保证，增强了参数估计鲁棒性。 实证结果显示，DRIVE 达到更优整体性能、更快收敛速度及更强鲁棒性，代码已开源，论文发表于 NeurIPS 2026。
来源：arXiv · ML · arxiv.org