大语言模型数据优化综述

该综述系统回顾了大语言模型（LLMs）的数据优化技术，构建了涵盖数据选择、增强、加权及其他的分类框架。 研究首先分析了 LLM 训练与推理中的数据挑战，并确立了质量、难度、多样性和冗余性四大数据感知维度。 文章最后指出了当前数据优化相较于传统深度学习的关键挑战与未来研究方向。