The Decoder· Maximilian Schreiner·· 3 天前AI 评分69
AI可解释性是否接近突破:新研究引发领域分歧
Is AI interpretability close to a breakthrough? A new essay has researchers divided
AI 导读
AI可解释性领域对一篇新论文是否意味着重大突破产生分歧,Neel Nanda认为其对整体局面影响有限。Goodfire的Chris Olah提出许多被标记为多义性的神经元实际是共享形状的探测器,并在Qwen3-32B中观察到约90%的神经元有单一主要功能。Google DeepMind的Neel Nanda则认为叠加理论依然成立,且语言模型存储的事实远多于其神经元数量,对可解释性前景保持悲观。
来源:The Decoder · the-decoder.com