跳到正文
LessWrong · All Posts· Skye·· 3 小时前AI 评分37

影子计算威胁 CoT 可监控性

Shadow Computation Threatens CoT Monitorability

AI 导读

影子计算是一种未语言化的推理,通过绕过读取瓶颈随生成规模扩张,构成对 CoT 可监控性的主要威胁。 该计算分为 token 内与 token 间两种,其中 token 内计算受模型深度限制,而 token 间计算在时序上连续发生。

来源:LessWrong · All Posts · lesswrong.com