arXiv · NLP· Jason Ken Adhinarta, Raina Wu, Ashutosh Sharma, Avinash Balakrishnan, Rameswar Panda, Polina Golland, Yoon Kim, Zhang-Wei Hong·· 2026-10-14AI 评分40
自蒸馏能否提升推理能力?SDPO 与 OPSD 在未见问题上泛化能力存疑
Does self-distillation improve reasoning?
AI 导读
针对 SDPO 和 OPSD 两种自蒸馏方法的研究发现,其性能增益难以泛化至未见问题。 实验基于 Qwen3(1.7B-14B)与 OLMo-3-7B 模型,结果显示增益主要源于过拟合,且自蒸馏梯度与策略梯度对齐较弱。 这指出有效利用特权信息以提升推理能力仍是未解决的挑战。
来源:arXiv · NLP · arxiv.org