Hacker News AI· Luc·· 2026-10-14AI 评分32
AI 可解释性中的“死三文鱼”:虚假解释与统计因果重构
The Dead Salmons of AI Interpretability
AI 导读
AI 可解释性研究存在大量“死三文鱼”伪影,探针和稀疏自编码法甚至能在随机初始化网络上生成看似合理的解释。作者主张将解释视为统计模型的参数,需通过量化不确定性并检验替代假设来区分真效。此举旨在解决可识别性问题,减少伪发现,推动 AI 可解释性成为严谨科学。
来源:Hacker News AI · arxiv.org