跳到正文
arXiv · ML· Alex Chan (Newcastle University), Mohamed Tarraf (Newcastle University), Alex Yakovlev (Newcastle University), Rishad Shafik (Newcastle University)·· 2 天前AI 评分22

利用 Petri 网编码解释二进制神经网络推理:从约束到因果

From Constraints to Causality: Petri net Encodings for Explaining Binary Neural Network Inference

AI 导读

论文提出将固定二进制神经网络(BNN)的推理语义组合翻译为 1-safe Petri 网,使计算步骤转化为显式变迁,从而生成因果追踪序列。 通过穷举输入-输出等价性验证了翻译的忠实性,展示了如何通过对比触发序列来定位单一特征改变对预测结果的具体影响。 该方法弥补了传统 SAT 验证仅判断属性是否成立的不足,开启了分析两个 BNN 决策分歧的因果追踪新方向。

来源:arXiv · ML · arxiv.org