跳到正文
arXiv · NLP· Jason Ken Adhinarta, Raina Wu, Ashutosh Sharma, Avinash Balakrishnan, Rameswar Panda, Polina Golland, Yoon Kim, Zhang-Wei Hong·· 2026-10-14AI 评分40

自蒸馏能否提升推理能力?SDPO 与 OPSD 在未见问题上泛化能力存疑

Does self-distillation improve reasoning?

AI 导读

针对 SDPO 和 OPSD 两种自蒸馏方法的研究发现,其性能增益难以泛化至未见问题。 实验基于 Qwen3(1.7B-14B)与 OLMo-3-7B 模型,结果显示增益主要源于过拟合,且自蒸馏梯度与策略梯度对齐较弱。 这指出有效利用特权信息以提升推理能力仍是未解决的挑战。

来源:arXiv · NLP · arxiv.org