arXiv · ML· Hanwei Zhang, Tianma Hu, Gaojie Jin, Xu Cheng, Ronghui Mu·· 2026-10-16AI 评分30
概念瓶颈模型在几何与语义扰动下的鲁棒性研究
Interpretable but Fragile? Robustness of Concept Bottlenecks under Geometric-Semantic Perturbations
AI 导读
研究指出概念瓶颈模型的可解释性并不天然赋予鲁棒性,而是将敏感性与鲁棒性转化为依赖于扰动机制的任务权衡。 该研究提出了基于生成器的评估框架,在潜空间的几何扰动和概念空间的语义干预下,对比标准分类器与概念瓶颈模型,通过实证分析与随机平滑证明二者目标各异。 该研究已获NeurIPS 2026接收,明确了可解释中间表征会重新分布敏感度,而非在所有模型族中统一提升鲁棒性。
来源:arXiv · ML · arxiv.org