跳到正文
arXiv · ML· Hyunseung Hwang, Seungeun Lee, Lucas Rosenblatt, Steven Euijong Whang, Julia Stoyanovich·· 2026-10-09AI 评分28

SHAP 解释多重性:特征化与评估

Explanation Multiplicity in SHAP: Characterization and Assessment

AI 导读

研究发现SHAP在模型、输入及预测不变时,重复运行会产生显著分歧,这种现象被称为解释多重性。 研究提出结合双种子协议与多重指标的方法论,揭示在较小数据集上模型诱导的分歧更大,而较大数据集上解释器诱导的分歧更显著。 研究人员建议将单次SHAP输出视为分布实现而非权威产物,避免使用L2距离低估不稳定性。

来源:arXiv · ML · arxiv.org