arXiv · AI· Matthew Kowal, Goncalo Paulo, Louis Jaburi, Tom Tseng, Lev E McKinney, Stefan Heimersheim, Aaron David Tucker, Adam Gleave, Kellin Pelrine·· 3 天前AI 评分38
Concept Influence:利用可解释性改进训练数据归因的性能与效率
Concept Influence: Leveraging Interpretability to Improve Performance and Efficiency in Training Data Attribution
AI 导读
研究人员提出Concept Influence方法,将模型行为归因于语义方向(如线性探针或稀疏自编码器特征),而非单个测试样本,从而克服传统影响函数计算成本高且偏向句法相似性的缺陷。 探针归因法作为一阶近似,性能相当但速度快一个数量级以上,实验验证其在新兴错对齐基准和真实后训练数据集上具备可扩展性,支持通过数据更可控地管理模型行为。
来源:arXiv · AI · arxiv.org