arXiv · ML· Huihao Jing, Wenbin Hu, Shaojin Chen, Haochen Shi, Zhongwei Xie, Guijia Zhang, Yuxuan Liu, Haoyu Huang, Haoran Li, Yangqiu Song·· 2026-10-14AI 评分35
SoFT:用于 LLM 微调的可泛化软目标方法
SoFT: Soft Targets for Generalizable LLM Fine-Tuning
AI 导读
针对多领域知识整合难题,提出 SoFT 微调方法以平衡教师演示学习与模型原有能力。 该方法通过设定最低目标概率并最小化 KL 散度变更来学习演示,利用领域梯度预算控制平衡点。 在混合推理和 Agent 任务中,SoFT 取得了分布内能力获取和分布外泛化的最佳整体性能。
来源:arXiv · ML · arxiv.org