arXiv · AI· Dohyun Kim, Jaeung Lee, Donghee Hong, Jaemin Jo·· 4 天前AI 评分27
DECODE:诊断自动化解释过程中可解释性失效的视觉分析系统
DECODE: Diagnosing Interpretability Failures in Automated Interpretation Process
AI 导读
针对 LLM 自动解释过程缺乏人工监督和基准真值的问题,DECODE 提出将诊断流程分解为三个阶段以隔离失效来源,并复用解释间共识作为可靠性代理指标。 该系统引入三阶段主动种子协议优先推荐高优先级实例供人工审查,在 16,384 个稀疏自编码器特征案例研究中有效识别并归因大规模可解释性失效。
来源:arXiv · AI · arxiv.org