arXiv · AI· Gregor Baer, Chao Zhang, Isel Grau, Pieter Van Gorp·· 8 小时前AI 评分31
研究揭示可解释 AI 功能正确性不必然等同于人类理解
Does Explanation Correctness Matter? Linking Computational XAI Evaluation to Human Understanding
AI 导读
针对 200 名受试者的研究显示,可解释 AI 的 100% 至 55% 正确性梯度未带来人类理解度的线性提升,70% 以下正确性无显著差异。 解释准确率降低减少了能准确预测的受试者数量,而非均匀降低整体准确率;部分受试者虽预测正确,但描述的 AI 模式错误。 结果表明功能指标需对照人类结果进行验证,不能仅依赖正确性分数评估可解释性。
来源:arXiv · AI · arxiv.org