arXiv · ML· Fei Ding, Yongkang Zhang, Yuhao Liao, Zijian Zeng, Huiming Yang·· 3 天前AI 评分33
Check Token 实现 LLM 推理实时自我校验与精准截断
Check Token: Real-Time Self-Verification and Precise Truncation in LLM Reasoning
AI 导读
该研究提出 Check Token 机制,首次在语言模型生成流中建立内置自我校验。模型通过输出功能标记触发检查、定位、截断与重写,该标记不携带推理内容。 实验基于 Qwen3-32B 和 Qwen3-Next 进行,在 HMMT25 任务上带来 10.8 pp 性能提升,开销系数为 1.13x,token 效率是 Best-of-8 的 88 倍。
来源:arXiv · ML · arxiv.org