arXiv · NLP· Seunghyun Lee, Dongyoon Han, Sangdoo Yun·· 3 小时前AI 评分30
Token Inoculation：LLM 双用途知识的条件化标记而非抑制
Mark, Don't Erase: Token Inoculation for Dual-Use Knowledge in LLMs
AI 导读
研究提出 Token Inoculation，在继续预训练时标记危险句子并微调 LLM 拒绝回答危险问题。在 1.5B 至 14B 参数规模中，该模型将危险准确率保持在 18% 附近，同时保留 93% 的 MMLU 指令基线性能。 这种条件化方法优于遗忘和拒绝训练等抑制方法，实现最佳安全与效用平衡，且优势在开放式生成和网络安全迁移中均得到复现。
来源：arXiv · NLP · arxiv.org