Opus 5.5 提升 GPT-2 XL 神经元可解释性

Jasper Blank 报告了利用 Opus 5.5 重新运行 OpenAI 2023 年关于大语言模型解释神经元实验的结果。该实验旨在评估更强模型在研究神经元可解释性方面的效能。 重跑结果显示，Opus 5.5 能够基于激活值识别 GPT-2 XL 中 3% 至 19% 的神经元功能。这一结果远高于此前 GPT-4 在同一类 2023 年实验中仅 0.3% 的识别率。 此次实验结果表明，使用更强的模型进行神经元研究，为 AI 对齐（Alignment）及检测 AI 策略行为（scheming）提供了更有效的方法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。