arXiv · AI· Mengyao Lyu, Yan Li, Huasong Zhong, Hui Chen, Jungong Han, Guiguang Ding, Zhenheng Yang·· 5 小时前AI 评分30
SSR：百万级多模态指令微调的简单数据选择策略
An Embarrassingly Simple Data Selection Strategy for Million-Scale Multi-Modal Instruction-Tuning
AI 导读
SSR策略通过子模覆盖最大化，在百万级数据池中仅用30%（约78万）数据即达全量训练99.1%的性能，且具备跨模型和跨数据池的免训练迁移能力。 该策略利用交互风格（Style）代理结构多样性，并将数据质量分解为能力特定分数（Scores），在LLaVA-1.5和LLaVA-OneVision架构上均表现优越。 SSR是首个在百万级规模验证的数据选择方法，显著降低了多模态模型微调的数据需求。
来源：arXiv · AI · arxiv.org