arXiv · AI· Zhaoxin Wang, Zihang Ding, Handing Wang·· 6 小时前AI 评分28
Sparse Adversarial Fine-Tuning: 参数高效对抗训练新方法
Sparse Fine-Tuning for Parameter-Efficient Adversarial Training
AI 导读
研究提出稀疏对抗微调方法 SAFT,通过更新仅约 5% 的参数实现高效对抗训练。 基于对抗梯度显著性定位鲁棒性关键参数,冻结其余参数进行微调,方法在多个架构和数据集上优于 LoRA,并接近或超过全参数训练效果。
来源:arXiv · AI · arxiv.org