跳到正文
arXiv · ML· Bahareh Tolooshams, Ailsa Shen, Anima Anandkumar·· 10 天前AI 评分35

稀疏自编码器神经算子:SAE-FNO 如何建模结构化概念表达

Mechanistic Interpretability with Sparse Autoencoder Neural Operators

AI 导读

该研究提出稀疏自编码器神经算子(SAE-NOs)及其实例化方法 SAE-FNO,旨在通过傅里叶域积分算子对概念进行功能性参数化。 SAE-FNO 利用联合稀疏性,结合概念稀疏性与领域稀疏性,在视觉数据中展现出对多尺度空间结构的高效建模能力,并支持分辨率泛化。 此方法将 SAE 从表示概念存在性扩展至建模结构化概念表达,且已获 NeurIPS 2026 接收。

来源:arXiv · ML · arxiv.org