arXiv · NLP· Pragna Mallappa·· 5 小时前AI 评分38
推理模型 Token 置信度与链长关系审计:基于信号处理的证据
Is Token Confidence Just Chain Length? A Signal-Processing Audit of Reasoning Traces
AI 导读
研究审计推理模型中基于 Token 置信度的剪枝方法,发现在窗口为 2048 Token 时,最低平均置信度主要反映链长而非正确性。 利用 16 条采样链与 500 道数学题测试发现,仅按链长排序的效果优于置信度评分,且长度解释后该分数不再包含正确性信息。
来源:arXiv · NLP · arxiv.org