跳到正文
arXiv · AI· Tingxin Yang, Zefeng Wang, Mengyue Wang, Jinhe Bi, Xingcheng Zhou, Volker Tresp, Yunpu Ma·· 16 小时前AI 评分27

DeepLook: 基于不确定性引导分支与前瞻置信度的高效推理解码框架

DeepLook: Uncertainty-Guided Branching with Lookahead Confidence for Efficient Reasoning

AI 导读

DeepLook 提出无训练解码框架,通过监测置信度并分支处理不确定性瓶颈,在四个竞赛数学基准测试中生成 token 减少 87.3%。 该框架使用平均前瞻置信度对候选路径排序,在 16 个设置中的 12 个匹配或超过 DeepConf-low 准确率,但知识密集型任务优势消失。

来源:arXiv · AI · arxiv.org