arXiv · AI· Ruoran Xu, Yilun Zhao, Ziyu Chen, Xiaoqiang kang, Arman Cohan·· 8 小时前AI 评分31
证据旁路：策略内蒸馏如何提升准确率但削弱证据响应
Better Answers, Weaker Evidence Control: Evidence Bypass in On-Policy Distillation
AI 导读
策略内蒸馏（OPD）虽提升 Qwen3-4B 在 QASPER 上的答案准确率 3.4 点，却使证据响应降低 5.3 点，证据旁路率增加 15.7 点。 EP-OPD 方法恢复 54-66% 的反事实准确率损失，同时保留 80-85% 的原准确率增益，证明证据响应应作为独立训练目标。
来源：arXiv · AI · arxiv.org