arXiv · ML· Shijie Li, Yilin Gao, Tieyuan Chen, Yun Luo, Weiyao Lin, Hang Yu·· 4 小时前AI 评分28
GIFT 提出梯度感知过滤以优化蒸馏增强推理 RL
GIFT: Gradient Informed Filtering for Distillation Augmented Reasoning RL
AI 导读
GIFT 通过梯度分解解决蒸馏与 RL 优化冲突，在数学和逻辑推理基准测试中持续优于强基线模型。 该方法将蒸馏梯度分解为并行安全过滤和正交价值评估分量，结合进度覆盖退火调度实现平滑过渡，在困难数学推理任务上取得最高 9.5% 的相对提升。
来源：arXiv · ML · arxiv.org