arXiv · ML· Andrzej Szablewski, Gabriel Konar-Steenberg, Raffaello Fornasiere, Nikita Menon, Stefan Heimersheim·· 21 天前AI 评分31
模型生物可解释性研究:可解释性强烈依赖训练方法
The Model Organism Lottery: Model Organism Interpretability Strongly Depends on Training Methodology
AI 导读
研究通过构建基于 OLMo2-1B 和 gemma-3-1b-it 的 61 个模型生物(MOs),发现其可解释性强烈依赖训练目标与数据生成管线。 该研究进一步通过知识蒸馏生成 96 个变体,发现集成训练和蒸馏方法通常比标准的后期 SFT 产生更难解释的模型。 结果对当前模型生物作为可解释性代理的有效性提出严重质疑。
来源:arXiv · ML · arxiv.org