通过噪声多样化来源筛选高价值训练数据的方法

提出一种可扩展的数据加权方法来筛选高价值训练样本。 利用元梯度直接优化权重，使权重规则可泛化至新数据，并能从小模型迁移至大模型。 在奖励建模应用中，该方法能自动适配特定领域，且混合人类与合成监督信号的效果优于单一来源。