跳到正文
arXiv · NLP· Lennart B\"urger, Piotr Komorowski, Moritz Weckbecker, Evgenii Kortukov, Aakriti Jain, Sebastian Lapuschkin, Wojciech Samek·· 2026-10-14AI 评分52

Chain of Thought Monitoring Can Fail Even When CoT Is Necessary

Chain of Thought Monitoring Can Fail Even When CoT Is Necessary

AI 导读

CoT 监测可能在 CoT 对回答必要时仍失效。作者提出基于 4 个 CoT 必要性层级的更细粒度框架,并通过干预实验测量最低三层的 CoT 可监测性;在医疗诊断任务中,患者性别和临床特征在至少 19% 和 24% 的正确回答中影响答案,但其影响几乎从未在 CoT 中显式表述,说明 CoT 必要并不保证可监测。

来源:arXiv · NLP · arxiv.org