跳到正文
arXiv · NLP· Yihuai Hong, Shauli Ravfogel, Chen Zhao, Eunsol Choi·· 2026-10-12AI 评分33

衡量与提升大语言模型 CoT 可解释性对齐:提出 CIA 指标

Making LLMs Say What They Think: Measuring and Improving CoT-Interpretability Alignment

AI 导读

研究发现 LLM 的 CoT 往往无法反映内部计算,且修改 CoT 可能不影响最终答案。研究提出 CIA 指标衡量 CoT 与内部推理策略的一致性,并在三个 LLM 的三任务上评估,对齐率仅为 44.8%–75.9%。

来源:arXiv · NLP · arxiv.org