arXiv · ML· Ali Ebrahimpour-Boroojeny, Xiaocong Yang, Samuel Schapiro, Zahra Borhani, Francisco R. Ortega, Yujia Zheng, ChengXiang Zhai·· 2026-10-16AI 评分28
无训练权重编辑法降低指令跟随模型对有害指令的遵从
Resisting Harmful Instructions through Training-Free Weight Editing
AI 导读
提出一种无训练权重编辑方法,通过少量提示词对的前向传播修改模型权重,防止提示工程撤销安全对齐。在两项说谎基准中,诚实响应率较最强替代方法平均提升 6.2 和 4.6 个百分点。针对指示性性别歧视,平均性别歧视响应率从 57.9% 降至 24.3%,结合公平性提示词后进一步降至 11.9%。
来源:arXiv · ML · arxiv.org