跳到正文
arXiv · ML· Xiaocong Yang, Xuanyu Meng, Yuji Zhang, Jiawei Han, ChengXiang Zhai·· 2026-10-15AI 评分40

SAE-IDF:面向符号匹配的共享稀疏坐标系

Sparse Autoencoders Are a Shared Coordinate System for Symbolic Matching

AI 导读

SAE-IDF 通过稀疏自编码器将符号编码为稀疏码,并利用稀有度对维度重新加权,实现了跨异构符号系统的单位匹配。 在涵盖 6 种符号系统的 12 项任务中,该方法是首个基础性步骤,相比同一 LLM 稠密基线,在使用 Gemma-2-9B 时于全部任务上、在使用 Llama-3.1-8B 时于除一项外的任务上均实现超越,最高提升达 45 分。

来源:arXiv · ML · arxiv.org