arXiv · AI· Hamid Dashtbani, Alexandra Dmitrienko·· 8 小时前AI 评分34
通过减法实现加法：提升大语言模型安全对齐的鲁棒性
Addition by Subtraction: Toward Mitigating Fragile Safety Alignment in Large Language Models
AI 导读
提出“Addition by Subtraction”方法，通过逐步移除安全关键神经元并使用偏好优化重建对齐，显著提升大语言模型对抗剪枝攻击的鲁棒性。 该方法不仅防御白盒攻击，还泛化至拒绝方向消融及多种黑盒越狱攻击，同时改善真实性并保留通用能力。 在来自三家厂商的四个模型实验中，部分攻击的成功率降低了高达 90%。
来源：arXiv · AI · arxiv.org