SAE特征解释与EEG混淆研究论文

2026年11月3日，Yucong Cao等人在arXiv上更新了论文《从扰动敏感度到稀疏自编码器特征解释：一个 EEG 基础模型案例研究》（编号2609.34091v2）。该研究旨在解决稀疏自编码器（SAE）在解释模型内部活动时存在的混杂因素问题。 研究者指出，SAE的特征解释可能受编辑幅度干扰：若移除概念对输入的影响大于对照编辑，观测到的响应可能源于编辑幅度而非概念本身。为了验证这一假设，研究利用脑电（EEG）模型作为受控测试环境。 实验结果显示，在涵盖27种模型、数据集及层组合的测试中，移除8--12 Hz alpha频段对SAE响应的影响显著高于30--34 Hz对照频段，前者影响程度为后者的7.33倍。这一结果证实了现有方法中存在的混淆效应，为理解模型内部活动提供了新的实证依据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。