arXiv · AI· Zhenghao Zhao, Yasutomo Kawanishi, Huihuo Zheng, Michael E. Papka, Yan Yan·· 3 小时前AI 评分26
QSGS：基于查询的子模数据选择实现高效指令微调
Query-based Submodular Data Selection for Efficient Instruction Tuning
AI 导读
QSGS 方法通过子模图割和梯度引导合成，在 MMLU、BBH 和 TydiQA 基准测试中，以 0.5% 数据预算在 Mistral-7B 上匹敌甚至超越全量数据微调性能。 该方法利用成对分散惩罚抑制冗余，并通过残差子空间分析生成合成样本以填补覆盖缺口。 在 Llama-2、Llama-3 和 Mistral 模型上，QSGS 随预算降低展现出更显著的增益优势。
来源：arXiv · AI · arxiv.org