跳到正文
arXiv · AI· Songtao Wei, Yi Li, Zhikai Li, Xu Hu, Yuede Ji, Guanpeng Li, Feng Chen, Carl Yang, Zhichun Guo, Bingzhe Li·· 17 天前AI 评分30

LEAD:面向大语言模型的长度高效自适应动态推理方法

LEAD: Length-Efficient Adaptive and Dynamic Reasoning for Large Language Models

AI 导读

LEAD 方法通过在线自适应机制替代静态启发式,在五个数学推理基准测试中取得了 RL 训练的高效推理方法中最高的准确度和准确度效率分数,同时生成的输出长度显著短于基础模型。 该方法利用“势标度的不稳定性”在训练步骤中动态校准正确率与效率的权衡,并基于模型自身正确推理在线估算每个问题的目标长度。 LEAD 对称效率奖励同时惩罚过度思考与过度压缩,解决了传统方法中正确率退化与压缩不足并存的难题。

来源:arXiv · AI · arxiv.org