arXiv · NLP· Yutong Ke, Yansu Wang, Zeyu Zhang, Xihao Guo, Chongwen Zhao, Kaizhu Huang·· 8 小时前AI 评分28
SAFETYEDIT: 利用稀疏内部目标和全提示控制实现 LLM 越狱后门
SAFETYEDIT: Sparse Internal Targets with Prompt-Wide Control for LLM Jailbreak Backdoors
AI 导读
SAFETYEDIT 提出一种新的模型编辑后门方法，通过优化单个拒绝相关坐标并结合早期注意力层的 KV-cache 标记实现跨位置控制。 该方法在 4 个开源 LLM 和 3 个数据集组测试中，于 12 次对比中的 11 次取得最高 Guard ASR，且所有 12 次均达到最高 StrongREJECT 平均分。 消融实验和审计确认，测试配置下未触发时的行为与通用能力变化极小。
来源：arXiv · NLP · arxiv.org