arXiv · AI· Xu Zhao, Xiting Wang, Weiran Shen·· 4 小时前AI 评分34
基于嵌入空间分离的大语言模型安全性增强
Enhancing Safety of Large Language Models via Embedding Space Separation
AI 导读
提出嵌入空间分离(ES2)微调方法,通过增加有害与无害嵌入距离提升大语言模型安全防御。 方法结合嵌入锚点损失和KL散度正则化,防止模型能力受损。 实验显示ES2有效抵御多种攻击,且通用能力与基线模型相当,仅部分任务表现有轻微下降。
来源:arXiv · AI · arxiv.org