arXiv · ML· Josh Rountree, Pulkit Verma, Oswin So, Chuchu Fan, Julie A. Shah·· 9 天前AI 评分27
CCW-Net:基于因果概念解释的深度学习模型解释框架
Causal Concept Explanations for Deep Neural Models
AI 导读
提出CCW-Net(因果概念包装网络),首次将干预性中介分析作为训练目标,用于对齐概念解释与模型输出的因果关系。该框架通过必要性、充分性和独立性标准塑造模型的概念表征,在飞机控制、驾驶和图像分类任务中进行了评估。 它使基于概念的解释从相关性的提升为可量化的因果性,支持透明神经模型更安全的评估、认证和部署。
来源:arXiv · ML · arxiv.org