arXiv · NLP· Sungjun Lim, Heedong Kim, Andrew Lee, Kyungwoo Song·· 8 小时前AI 评分25
分布偏移下基于字典的可信可解释性：提出几何自适应解释器（GAE）
Geometry-Adaptive Explainer for Faithful Dictionary-Based Interpretability under Distribution Shift
AI 导读
分布偏移导致模型活跃子空间旋转，使基于稀疏自编码器的字典解释器产生可信度差距。 研究提出几何自适应解释器（GAE），在无标签OOD激活数据下重新对齐字典且无需梯度更新。 实验表明，GAE在因果可信度上达到或超越所有基于训练的基线。
来源：arXiv · NLP · arxiv.org