跳到正文
arXiv · NLP· Suwan Yoon, Seongryong Jung, Changhee Lee·· 6 小时前AI 评分26

APSD:通过自蒸馏优化实现正确性依赖的非对称目标分布

Correctness-Dependent Asymmetric Target Distributions for Self-Distillation Policy Optimization

AI 导读

研究人员提出APSD方法,通过构建正确性依赖的非对称目标分布来优化LLM后训练中的自蒸馏策略。 在基于可验证奖励的强化学习实验中,该方法在Qwen3模型规模上以平均少2.6倍的训练步数达到了SDPO的性能表现。

来源:arXiv · NLP · arxiv.org