跳到正文
arXiv · NLP· Xingyang He, Xiao Ling, Jie Liu·· 3 天前AI 评分33

SmartThinker:通过步骤级Token分配实现高密度推理

SmartThinker: Learning High-Density Reasoning via Step-Level Token Allocation

AI 导读

SmartThinker 提出步骤级Token分配框架 SCPO,通过在线估计各推理步骤对正确率贡献来学习选择性保留或压缩,解决现有全局长度惩罚忽视步骤结构的问题。 该框架引入“推理密度”定义以平衡不同价值步骤的压缩压力,并结合长度偏差修正和难度自适应裁剪提升训练稳定性,在9个域内及域外基准测试中实现了更优的准确率与效率权衡。

来源:arXiv · NLP · arxiv.org