arXiv · AI· Sichao Li, Sai Ma, Xiyang Hu, Chudi Zhong, Tongliang Liu·· 7 小时前AI 评分26
Chain-of-Thought 监督需对忠实性与可监控性分别提供证据
Chain-of-Thought Oversight Requires Separate Evidence for Faithfulness and Monitorability
AI 导读
研究指出 Chain-of-Thought 监督中，可见推理轨迹易混淆机制忠实性与行为可监控性。 三个开源推理模型的案例显示，探针与激活消融未证明监控器优于基线，且七项机制分析未隔离紧凑因果机制。 作者提出证据链报告标准，要求明确每个声明的目标属性与证据支持状态。
来源：arXiv · AI · arxiv.org