跳到正文
arXiv · ML· Anh Tien Nguyen, Dimitris Samaras, Mahdi S. Hosseini·· 17 小时前AI 评分40

DualSAE:分离稀疏自编码器中可解释性与重构的目标

Separating Interpretability and Reconstruction in Sparse Autoencoders

AI 导读

summary_zh: 提出 DualSAE 框架,通过在标准 SAE 中增加残差分支并引入去相关损失,将可解释性与重构目标分离。 在两个视觉数据集和两个语言语料库上,DualSAE 使重构保真度平均提升 29%,可解释性提升 34%。

来源:arXiv · ML · arxiv.org