跳到正文
arXiv · ML· Quoc Nguyen, Trung Le, Dinh Phung, Mehrtash Harandi·· 3 天前AI 评分38

LLM 模型免疫化:超越条件数的Plateau区域重要性分析

Model Immunization Beyond Condition Numbers: The Importance of Plateau Regions

AI 导读

论文提出通过优先考虑Plateau区域来扩展LLM模型免疫化理论,并引入基于高效Hessian估计的免疫算法。 实验在三种场景中验证了该方法的有效性:Fine-tuning-as-a-service中的混合数据攻击、开放权重环境下的有害微调,以及鲁棒遗忘中抵抗再学习攻击。 该方法在保持模型通用性和下游可训练性的同时,实现了对对抗性微调的稳健防御,代码已公开。

来源:arXiv · ML · arxiv.org