Zvi 解读 Goodfire 神经网络可解释性研究

Zvi 撰文梳理 Goodfire 发布的神经网络可解释性研究引发的社区讨论。他引用了 OpenAI 研究者等对该研究的积极评价，同时也指出部分观点认为该成果未实现神经元可解释性从 1.7% 到 90% 的直接跨越，并探讨了该工作对对齐研究的潜在意义。