arXiv · NLP· Hongyu Li, Zhan Yu, Zhe Zhao, Kimmo Yan, Xiong Kuang, Renfen Hu·· 7 天前AI 评分40
基于可解释特征的LLM高效安全对齐方法:LIS
Data-Efficient LLM Safety Alignment Guided by Interpretable Features
AI 导读
提出高效安全对齐数据集LIS,仅含2.4K样本,在四项安全及五项过度拒绝基准测试中超越TRIDENT-Core(26K)、TRIDENT-Edge(19K)和WildJailbreak(262K)等更大规模数据集。 该方法利用稀疏自编码器(SAE)激活信号筛选覆盖可解释安全特征的提示词,并通过多智能体对抗合成框架生成无害但易引发不必要拒绝的样本。
来源:arXiv · NLP · arxiv.org