arXiv · AI· Enrico Ahlers, Daniel Passon, Tobias Kiecker, Eik Reichmann, Lars Grunske·· 2026-10-06AI 评分49
稀疏自编码器(SAE)可被植入后门:不改动 LLM 即可操控输出
Backdooring Sparse Autoencoders
AI 导读
研究者提出一种仅修改解码器的 SAE 后门,在 LLM 与 SAE 编码器均冻结的情况下,于单一插入层植入即可让模型产生攻击者指定的行为。 以代码生成为例,该攻击在三款语言模型和多种插入层上均实现高比例的主动代码插入,并可依提示词线索触发;用 HumanEval 和部分 SAEBench 指标评估发现,强后门行为可与多项常规 SAE 质量指标的微小变化共存。
来源:arXiv · AI · arxiv.org