arXiv · ML· Charan Teja Nagisettygari, Siva Raja Sindiramutty·· 3 天前AI 评分21
微调如何提升确定性?基于间隔正则化对抗批处理诱导的 Token 翻转
How Much Determinism Can Fine-Tuning Buy? Margin Regularisation Against Batch-Induced Token Flips
AI 导读
研究提出基于间隔正则化的微调方法,在 GSM8K 数据集上将 Token 翻转率降低 35%,分歧率从 53.8% 降至 38.1%。 该方法通过惩罚模型 top-1 与 top-2 logit 间隔至噪声分位的两倍,代价是准确率损失 1.3 至 2.9 分,且不影响确定性所需的 logit 间隔阈值。
来源:arXiv · ML · arxiv.org