arXiv · AI· Johnny Yu, Cyril Gorlla·· 5 小时前AI 评分32
Fin-SD:金融推理中的后见自蒸馏范围条件分析
How Much Does the Hint Matter? Scope Conditions for Hindsight Self-Distillation in Financial Reasoning
AI 导读
提出Fin-SD后见自蒸馏方法,在FinanceReasoning Hard子集上使GPT-OSS-20B准确率提升3.03个百分点。 通过截断错误前缀并注入简短批评作为提示,该方法生成token比完整参考方案少9.5%,且在MMLU-Pro等基准测试中未出现显著性能回退。
来源:arXiv · AI · arxiv.org