arXiv · ML· Ishita Darade, Sushrut Thorat·· 24 天前AI 评分22
被表征不等于被计算:Transformer 候选算法中间态的因果测试
Represented Is Not Computed: A Causal Test of Candidate Algorithmic Intermediates in a Transformer
AI 导读
研究在 Transformer 上进行基数数字提取测试,模型在三个随机种子下达到 99.83% 的精确准确率。线性探针能解码算法中间值,但因果测试显示这些值未被传输至输出流,且稀疏电路搜索发现变量路由在后期才结合。该案例表明,当存在显式算法假设时,基于探针的结论可能与因果观察结果存在显著分歧。
来源:arXiv · ML · arxiv.org