跳到正文
arXiv · ML· Yutong Chen, Zhichao Xu, Rui Liu, Kunpeng Liu·· 2026-10-14AI 评分32

LEAF:通过上下文内探索与自蒸馏提升 LLM 推理效率

Explore with Memory, Learn without It: In-Context Exploration and Self-Distillation for LLM Reasoning

AI 导读

LEAF 方法在 LLM 推理中实现约 4 倍探索加速,较最强基线模型提升准确率 1.59 和 1.83 个百分点。 该方法注入动态问题特定记忆至上下文,并通过自蒸馏更新策略,在四个基准测试中表现优于随机采样基线。 研究结果表明,LEAF 在提升探索效率的同时显著降低了计算资源消耗。

来源:arXiv · ML · arxiv.org