arXiv · NLP· Xupeng Chen·· 5 小时前AI 评分35
自动可解释性评估中的结构性捷径：无需阅读解释即可评分
Scoring Explanations Without Reading Them: Structural Shortcuts in Automated-Interpretability Evaluation Data
AI 导读
研究发现，基于稀疏自编码器（SAE）特征的自动可解释性评估存在结构性捷径，无需阅读解释即可实现高分。在 GPT-2 小特征评估中，仅依据中心标记规则即达 0.979 准确率，远超 0.838 的 LLM 评分器。
来源：arXiv · NLP · arxiv.org