SAE PII抑制评估缺陷曝光

在大型语言模型中，基于稀疏自编码器（SAE）的特征级干预常被用于抑制个人信息（PII）泄漏。这类干预通常依赖 Logprob（对数概率）的降低作为评估标准，认为 Logprob 下降即代表抑制有效。然而，这种单一指标无法区分是特征特异性抑制起了作用，还是大激活扰动带来了量级伪影。 最新研究在36个包含不同模型、层级及 PII 类型的案例中验证了这一方法缺陷。研究发现，若仅使用 Logprob 评估，17 个案例（占47%）看似抑制成功。但在采用多指标评估框架进行复核后，仅有 1 个案例（占2.8%）真正通过测试，表明 Logprob 评估存在严重的虚假阳性问题。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。