arXiv · AI· Chaerin Lee, Wonho Lee, Sohee Park, Daeseon Choi·· 17 小时前AI 评分21
SAE 基于的 PII 抑制在 LLM 中无法通过 Logprob 评估验证因果性
Reducing Logprob Without Causal Verification: Diagnosing SAE-Based PII Suppression in LLMs
AI 导读
SAE 特征级干预在 LLM 中抑制 PII 泄漏通常依赖 logprob 降低进行评估，但这无法区分特征特异性抑制与大激活扰动带来的量级伪影。在 36 个（模型，层，PII 类型）案例中，17 个（47%）在仅用 logprob 评估下看似成功，但在多指标框架下仅 1 个（2.8%）通过。
来源：arXiv · AI · arxiv.org