arXiv · AI· Hannan Mahadik, David Salinas, Jacek Golebiowski, Aaron Klein·· 4 小时前AI 评分23
DPO 超参数分布研究：如何测量、随规模变化及不可迁移性
The Shape of the DPO Hyperparameter Landscape: What to Measure, How It Moves with Scale, and When Not to Transfer It
AI 导读
研究发现 DPO 最优学习率随模型规模变化，且超参数在训练数据集间不可迁移。验证损失与下游基准最优超参数仅呈弱相关，因此需针对特定模型、数据集和评估目标专门调优。使用简短候选训练运行可大幅降低超参数选择成本，所有配置和结果已开放以供复现。
来源：arXiv · AI · arxiv.org