跳到正文
arXiv · ML· Josh Rountree, Pulkit Verma, Oswin So, Chuchu Fan, Julie A. Shah·· 9 天前AI 评分27

CCW-Net:基于因果概念解释的深度学习模型解释框架

Causal Concept Explanations for Deep Neural Models

AI 导读

提出CCW-Net(因果概念包装网络),首次将干预性中介分析作为训练目标,用于对齐概念解释与模型输出的因果关系。该框架通过必要性、充分性和独立性标准塑造模型的概念表征,在飞机控制、驾驶和图像分类任务中进行了评估。 它使基于概念的解释从相关性的提升为可量化的因果性,支持透明神经模型更安全的评估、认证和部署。

来源:arXiv · ML · arxiv.org