arXiv · AI· Dingjie Song, Zhiling Yan, Yuxuan Zhang, Lichao Sun·· 2026-10-16AI 评分30
LEV:通过循环决策模型实现快速且深入的思考
LEV: Thinking Fast and Deep with Looped Decision Models
AI 导读
LEV 通过循环执行层而非生成 token 来增加推理深度,利用一个检查点即可在任意深度进行决策。 该模型在 2.6B 规模下,准确率从深度 1 的 63.2% 提升至深度 4 的 76.2%;按需深度策略节省 15%-24% 计算量。 1.4B 和 3B 模型在 <50ms 延迟下,比同延迟的稠密模型和级联模型准确率高 5.4-8.8 个百分点。
来源:arXiv · AI · arxiv.org