arXiv · NLP· Chengyu Xie, Fei Shen, Shuyi Miao, Yue Feng, Jian Yu, Pengyang Shao, Yijun Tian, Xiaoyu Du·· 3 小时前AI 评分29
Safety Kernel: 大语言模型跨语言防御中的机制化对齐
Safety Kernel: Mechanistic Alignment for Cross-Lingual Defense in LLMs
AI 导读
研究识别出大语言模型中跨语言共享的安全神经元集合（Safety Kernel, SK），并提出SK-Masked LoRA方法以增强跨语言安全防御。 该方法利用激活响应性计算安全对比分数，通过限制LoRA适配在SK对应的FFN输出维度，将安全变更聚焦于跨语言共享神经元。 实验表明，该方法在干预极少神经元坐标的同时，显著降低了多种语言（含未参与SK发现的语言）的攻击成功率。
来源：arXiv · NLP · arxiv.org