原子可解释单元框架揭示SAE冗余

2026年10月23日，Riteng Zhang等人发布论文《Rethinking SAE Evaluation》，提出原子可解释单元范式以评估稀疏自编码器。该工作已被NeurIPS 2026（Evaluations and Datasets Track）接收，代码已开源。 研究人员在数百个SAE及多架构模型上进行评估，发现对模型计算贡献最大的“主导特征”系统性地可解释性更低且更冗余。基于此，他们引入DAME作为代理指标，揭示现有指标下部分SAE存在功能多语义性与冗余失败模式。 这一发现促使研究者改进SAE训练架构。论文推荐将主导感知评估作为部署前的标准检查，该框架适用于归因分析、电路追踪与干预操作，旨在建立语义解释的坐标系。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。