arXiv · AI· Zhiming Meng·· 4 小时前AI 评分46
长思维链中推测解码接受率不随位置衰减：基于独立草稿的全长诊断
Speculative Acceptance Does Not Decay with Position: A Full-Length Diagnostic on Long Chain-of-Thought with Independent Drafts
AI 导读
在 MATH-500 数据集上，DeepSeek-R1-Distill-Qwen-7B 的推测解码接受率不随生成位置衰减。 测试涵盖约 178 万轮验证，在 0-8K 贪心及 0-12K 采样范围内，轨迹后半段接受率略高但显著。拒绝主要集中于高熵反思触发词，位置并非核心失效原因。 该研究提供独立草稿-目标配对的基线，将残余失效定位至决策点熵。
来源：arXiv · AI · arxiv.org