使用稀疏自编码器对 LLM 进行金融大脑扫描

研究利用稀疏自编码器（SAE）对 LLM 内部激活进行“大脑扫描”，将内部激活映射为可解释概念并实现特征定向引导。 SAE 相比提示词能更平滑、孤立地引导目标概念，且扫描揭示模型内部特征贡献与其自生成解释存在显著脱节，证明这些解释不可靠。 SAE 为现有模型提供轻量级干预手段，可生成可解释嵌入并帮助研究人员削弱特定经济偏见。