跳到正文
arXiv · NLP· Hongyu Li, Zhan Yu, Zhe Zhao, Kimmo Yan, Xiong Kuang, Renfen Hu·· 7 天前AI 评分40

基于可解释特征的LLM高效安全对齐方法:LIS

Data-Efficient LLM Safety Alignment Guided by Interpretable Features

AI 导读

提出高效安全对齐数据集LIS,仅含2.4K样本,在四项安全及五项过度拒绝基准测试中超越TRIDENT-Core(26K)、TRIDENT-Edge(19K)和WildJailbreak(262K)等更大规模数据集。 该方法利用稀疏自编码器(SAE)激活信号筛选覆盖可解释安全特征的提示词,并通过多智能体对抗合成框架生成无害但易引发不必要拒绝的样本。

来源:arXiv · NLP · arxiv.org