影子计算威胁 CoT 可监控性

LessWrong 上关于 CoT 可监控性的讨论指出，影子计算构成主要威胁。 该计算被定义为一种未语言化的推理，它通过绕过读取瓶颈，随着生成规模的扩大而扩张。 其具体形式分为 token 内与 token 间两种，其中 token 内计算受模型深度限制，而 token 间计算在时序上连续发生。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。