arXiv · ML· Reza Habibi, Darian Lee, Magy Seif El-Nasr·· 2026-10-16AI 评分33
符号化机制数据归因:追踪训练影响力至学习到的行为策略
Symbolic Mechanistic Data Attribution: Tracing Training Influence to Learned Behavioral Policies
AI 导读
研究提出符号化机制数据归因(SMDA)框架,通过稀疏自编码器特征和岭回归分析 Llama-3.2-3B-Instruct 的 200 个 SFT 数据对,归因训练数据对模型行为策略的影响。 移除关键数据对后,重新微调的准确率比完整微调最多提升 4.5 个百分点。 该方法结合机制可解释性与数据归因,提供比黑盒影响函数更精细、比手动电路分析更可扩展的诊断工具。
来源:arXiv · ML · arxiv.org