arXiv · ML· Yucong Cao, Chenqi Li, Tingting Zhu·· 3 小时前AI 评分28
从扰动敏感度到稀疏自编码器特征解释：一个 EEG 基础模型案例研究
From Perturbation Sensitivity to Sparse Autoencoder Feature Interpretation: An EEG Foundation-Model Case Study
AI 导读
稀疏自编码器（SAE）在解释模型内部活动时存在混杂因素：若移除概念对输入的影响大于对照编辑，观测到的响应可能源于编辑幅度而非概念本身。 利用脑电（EEG）模型作为受控测试，研究在 27 种模型、数据集及层组合中，发现移除 8--12 Hz alpha 频段对 SAE 响应的影响是 30--34 Hz 对照频段的 7.33 倍。
来源：arXiv · ML · arxiv.org