arXiv · NLP· Wonjun Lee, Kyungsik Yang, Gaeun Ji, Vaidehi Patil, Haon Park, Bumsub Ham, Mohit Bansal, Suhyun Kim·· 2026-10-07AI 评分25
LADE 模型:通过利用“暗知识”实现与大模型架构无关的潜在安全信号防护
Safeguarding LLMs via Model-Agnostic Latent Safety Signals from Dark Knowledge
AI 导读
LADE 模型通过从首个 token 概率分布中的“暗知识”提取潜在安全信号,实现与大模型架构无关的防御,可在应对越狱攻击时降低攻击成功率,同时保持安全与实用性的平衡。 该方法包含从暗知识中提取判别性安全信号、跨分词器映射以及基于 kNN 的判别分类三个组件,能够一致对齐不同 LLM 中的信号并泛化到多种基准。
来源:arXiv · NLP · arxiv.org