GPT-2 XL 的神经元可解释性是否已提升？Opus 5.5 的 2023 实验重跑结果

Opus 5.5 在重跑 OpenAI 2023 年关于 LLM 解释神经元的实验中，能识别 GPT-2 XL 中 3%-19% 的神经元功能。 这一结果远超过 GPT-4 在 2023 年实验中仅 0.3% 的识别率。 这表明利用更强的模型研究神经元可解释性，为 Alignment 和检测 AI scheming 提供了更有效的方法。