arXiv · AI· Zhiyuan Wang, Yuezhi Zhou, Zhu Zhang, Zhixing Tan·· 10 小时前AI 评分35
JWP 联合权重扰动：对抗大语言模型有害微调的鲁棒对齐防御
When Safety Fails Collectively: Robust Alignment Against Harmful Fine-Tuning via Joint Weight Perturbations
AI 导读
针对有害微调破坏大语言模型安全对齐的问题，研究提出 Joint Weight Perturbations（JWP）防御方法，通过屏蔽有害扰动的不同部分并进行联合训练，显著降低模型对累积扰动的敏感度。
来源：arXiv · AI · arxiv.org