跳到正文
arXiv · AI· Suze van Adrichem, Luke Bailey, Rohith Kuditipudi, Christine Ye, Neil Band, Ahmed Ahmed, John Duchi, Percy Liang, Tatsunori Hashimoto·· 8 小时前AI 评分32

引入“提示缩放律”提升模型扩展预测精度

Hinted Scaling Laws

AI 导读

针对弱模型评分过零导致传统缩放律失效的问题,本文提出“提示缩放律”,通过特权信息生成不同难度基准以建立连续预测趋势。 在 Delphi 预训练梯度和多个后训练模型家族中,该方法将 GSM8K、AIME 和 HLE 的中位数预测误差从 21 个百分点降至 4.3 个百分点,并显著减少了区分模型性能所需的测试样本数量。

来源:arXiv · AI · arxiv.org