arXiv · AI· Jingwei Ni, Dmitry Abulkhanov, Vladislav Smirnov, Markus Leippold, Elliott Ash, Timothy Baldwin, Artem Shelmanov, Mrinmaya Sachan·· 4 小时前AI 评分33
BELT:LLM 推理中基于信念的早期停止方法
Same Beliefs, Different Policies: Learning Reusable Representations for Early Stopping in LLM Reasoning
AI 导读
研究提出 BELT 方法,通过解耦结果预测与停止控制,在 Qwen3-1.7B 和 OLMo-3-7B-Think 上分别减少 41% 和 51% 生成 token 且精度无损。 方法利用冻结 LLM 隐状态线性拟合停止策略,支持不同 token 价格下免重训切换,并跨数学、代码及智能体任务有效迁移。
来源:arXiv · AI · arxiv.org