跳到正文
LessWrong · All Posts· Ezra Newman·· 3 天前AI 评分28

针对类 CoT 表面形式的训练可能等同于针对 CoT 的训练

Training against CoT-like surfaces may be similar to training against CoT

AI 导读

Apollo Research 研究人员提出观点,LLM 可能未区分标记的 CoT 与风格相似的推理内容,如代码注释。作者构建概念模型认为,对代码注释等类 CoT 输出施加训练压力,等效于对 CoT 区域施加压力,即“训练对抗 CoT”。

来源:LessWrong · All Posts · lesswrong.com