跳到正文
arXiv · AI· Miao Yu, Hao Huang, Lu Yuan, Yunpeng Li, Kun Wang, Zuming Jiang·· 2026-10-08AI 评分38

SafeEvo:解析语言模型安全对齐机制及其演化

SafeEvo: Deciphering the Safety Alignment Mechanism and Evolution in Language Models

AI 导读

论文提出可解释性框架 SafeEvo,通过提取并追踪 LLM 中拒绝电路的演化来解析安全对齐机制。 该框架采用 Safety Circuit Alignment (SCA) 方法,在跨三款 LLM 与两种对齐算法的实验中,使有害性评分降低 63.21%、对良性查询的拒绝率降低 58.44%,同时保留了 99.58% 的原始模型能力。

来源:arXiv · AI · arxiv.org