Tsallis Loss 框架调和推理模型训练问题

Chu-Cheng Lin 和 Eugene Ie 提出 Tsallis Loss Continuum 训练方法，通过 Tsallis q-对数函数定义损失族 $J_Q$，实现从 RLVR（$q=0$ 时利用极点）到隐式轨迹的边际对数似然（$q=1$ 时密度估计极点）的插值，统一了强化学习验证与监督微调两个训练范式。 该框架开发了 GARL 和 PAFT 两个蒙特卡洛估计器，并在 Qwen 3 和 Gemma 4 架构的 FinQA 等基准上验证效果。GARL 成功解决了冷启动问题，而 GRPO 在此场景下完全失败，显示出新估计器在推理模型训练中的优越性。

AI 根据报道生成 · 3 小时前更新