arXiv · ML· Xin Chen, Gil Kur, Alexander Shevchenko, Andreas Krause·· 2026-10-07AI 评分40
局部稀疏性实现无监督 LLM 安全检测
Local Sparsity Enables Unsupervised LLM Safety Detection
AI 导读
该论文提出基于局部稀疏性的无监督 LLM 安全检测框架,解决新攻击分类未被监督模型捕捉的问题。 方法利用稀疏自编码器(SAE)在局部表示空间中的共同活跃支持,通过局部掩码实现异常检测。实验在多个架构和数据集上验证,允许 1% 越界数据校准时性能接近最优,仅需 1-2% SAE 神经元参与计算。
来源:arXiv · ML · arxiv.org