arXiv · NLP· Max Zhang, Derek Liu, Kai Zhang, Joshua Franco, Haihao Liu·· 2026-10-06AI 评分32
多语言越狱防御中基于响应的知识蒸馏可能无意中损害安全性
Response-Based Knowledge Distillation for Multilingual Jailbreak Prevention Unwittingly Compromises Safety
AI 导读
基于响应的知识蒸馏在多语言越狱防御中应用时,反而推高了学生模型的越狱成功率,最高增加 16.6 个百分点。 研究使用 OpenAI o1-mini 作为教师模型,通过 LoRA 蒸馏至 Meta-Llama-3-8B-Instruct、Gemma-2-2B-IT 和 Qwen3-8B 等开源模型,并移除导致安全退化的“边界”拒绝数据以缓解或逆转问题。
来源:arXiv · NLP · arxiv.org