arXiv · ML· Celeste De Schamphelaere, Juan J. Vazquez, Ari Spiesberger, Tom\'a\v{s} Gaven\v{c}iak, Gavin Leech, Euan Ong, Jiahai Feng·· 23 小时前AI 评分30
MAEM 如何解释语言模型残差流方向
Towards interpreting any residual stream direction by scaling activation inversion
AI 导读
研究者开发出 MAEM，通过无标签 RL 优化将残差流方向映射至激活文本示例，实现可验证的解释。 Qwen3.6-27B MAEM 在多数领域优于语料库搜索，能激活 89% 的 SAE 特征，并识别 LoRA 后门有效载荷。
来源：arXiv · ML · arxiv.org