arXiv · ML· Prateek Chanda, Saral Sureka, Krishnateja Killamsetty, Ganesh Ramakrishnan·· 10 天前AI 评分23
TaskMixPGM:基于概率图模型优化监督微调任务混合的方法
From Task Affinities to Optimal Allocations: Probabilistic Graphical Modelling for Supervised Finetuning
AI 导读
提出 TaskMixPGM 框架,利用马尔可夫随机场能量模型在固定预算下学习最优连续任务混合,提升监督微调下游性能。该模型通过单任务行为分歧建立节点间成对势函数,平衡效用、覆盖度与冗余度,并证明预算约束下的集函数具有弱次模性。实证表明,该固定混合方案在多个模型族上优于启发式混合策略,且揭示了任务间的互补与冗余结构。
来源:arXiv · ML · arxiv.org