跳到正文
arXiv · AI· Zhaoxin Wang, Zihang Ding, Handing Wang·· 6 小时前AI 评分28

Sparse Adversarial Fine-Tuning: 参数高效对抗训练新方法

Sparse Fine-Tuning for Parameter-Efficient Adversarial Training

AI 导读

研究提出稀疏对抗微调方法 SAFT,通过更新仅约 5% 的参数实现高效对抗训练。 基于对抗梯度显著性定位鲁棒性关键参数,冻结其余参数进行微调,方法在多个架构和数据集上优于 LoRA,并接近或超过全参数训练效果。

来源:arXiv · AI · arxiv.org