arXiv · ML· Yuxuan Gu, Kequan Niu, Xiaocheng Feng, Yun Li, Yiqiao Yang, Bing Qin·· 2026-10-12AI 评分28
CIG-SFT:基于条件信息增益的通用化后训练监督微调框架
What Should SFT Learn? Conditional Information Gain for Generalizable Post-Training
AI 导读
提出 CIG-SFT 框架,利用条件信息增益量化任务输入对演示决策的不确定性降低,实现更优的后训练监督微调。 该框架在数学推理和代码生成基准测试中,一致性优于标准 SFT 及自适应微调基线,且无需额外训练数据或在线 rollout。 此方法显著提升了模型在挑战性评估分布上的泛化能力。
来源:arXiv · ML · arxiv.org