arXiv · ML· Luyang Zhang, Jialu Wang·· 23 小时前AI 评分23
归因补丁何时会欺骗我们：诊断与二阶修正方法
When Attribution Patching Lies: Diagnosis and a Second-Order Correction
AI 导读
研究指出归因补丁的误差主要源于下游网络非线性，而非局部曲率。 提出可靠性分数、误差边界及HVP修正工具；在124M至9B模型上，多步HVP在更低计算成本下达到或超越积分梯度精度。 支持在电路恢复基准上以更低算力实现更高保真度，并定位不可靠组件。
来源：arXiv · ML · arxiv.org