Zhiyuan Wang等提出联合权重扰动防御方法

2026年10月20日，Zhiyuan Wang等人在arXiv（cs.AI）发布研究，提出Joint Weight Perturbations（JWP）方法，以应对有害微调破坏大语言模型安全对齐的问题。该方法通过屏蔽有害扰动的不同部分并进行联合训练，显著降低模型对累积扰动的敏感度。 研究指出，有害扰动的不重叠部分单独作用时影响有限，但联合应用会使模型有害性超过各部分单独效果之和。基于此发现，JWP通过联合训练增强鲁棒性，为大型语言模型在微调场景下的安全对齐提供了新的防御路径。

AI 根据报道生成 · 47 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。