Shuffled OPSD方法提出及验证
热点事件持续更新
Shuffled OPSD方法提出及验证
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
研究团队Qingyuan Zheng和Zhihao Dou提出了Shuffled OPSD方法，旨在探讨语义一致性对On-Policy自蒸馏的影响。该方法通过打乱共享题干词的顺序，同时保留教师端仅展示的完整示例，以验证其对模型性能的作用。实验在三个数学推理基准和Qwen3系列模型上展开，结果显示打乱操作能带来正向增益，其中Qwen3-1.7B模型的平均准确率最大提升3.52个百分点。 这一结果挑战了语义连贯性对OPSD具有普适益处的传统观点。值得注意的是，研究同时发现若打乱教师端的示例，反而会导致准确率下降，表明题干词序与示例词序在自蒸馏过程中的作用机制存在差异。该研究为优化自蒸馏策略提供了新的实证依据。
AI 根据报道生成 · 3 小时前更新
最新进展11月4日 13:00
Shuffled OPSD：语义一致性会损害 On-Policy 自蒸馏吗？报道时间线
沿着报道，了解事件的不同侧面。
11月4日
- arXiv · AIShuffled OPSD：语义一致性会损害 On-Policy 自蒸馏吗？
提出 Shuffled OPSD 方法，在三个数学推理基准和 Qwen3 模型上，打乱共享题干词序可提升平均准确率。 最大提升 3.52 个百分点（Qwen3-1.7B），打乱教师端示例反而降低准确率。 结果挑战语义连贯性对 OPSD 的普适益处。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 811月4日 23:00
- 近 24 小时变化
- –
02468
23:0011月5日01:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。