跳到正文
arXiv · ML· Csongor Horv\'ath, Ida-Maria Sintorn, Prashant Singh·· 16 小时前AI 评分23

标签污染下基于秩方差分数的重要性采样与数据剪枝方法

Rank-Variance Scores for Importance Sampling and Data Pruning under Label Contamination

AI 导读

标签污染导致基于损失或梯度的重要性采样与剪枝失效,论文提出基于 $K$ 个独立代理模型损失秩方差的非单调评分规则。 该规则将总秩方差分解为代理间不一致性部分(用于采样)和代理内部分(用于剪枝),两者均可在无标签情况下验证。 在 CIFAR-10/100 标签噪声实验中,该方法在基于幅度的规则失效时显著优于随机选择,代理模型开销仅为训练成本的 2-4%。

来源:arXiv · ML · arxiv.org