跳到正文
arXiv · NLP· Binchi Zhang, Hadi Abdullah, Yiwei Cai, Jundong Li·· 10 天前AI 评分26

当安全成为离群点:理解 LLM 安全行为的保留机制

When Safety Becomes An Outlier: Understanding the Retention of LLM Safety Behaviors

AI 导读

安全对齐 LLM 在微调后易丢失安全行为,因公式化拒绝字符串构成弱根基的离群模式。 论文提出 NEST 框架,通过构建自然且基于语义的安全目标,利用原始模型困惑度作为分布支持代理,显著提升了安全行为在持续微调下的保留率。 该研究发现表明,基于模型现有语言能力构建安全目标是实现持久安全对齐的实用原则。

来源:arXiv · NLP · arxiv.org