arXiv · ML· Ruqi Bai, Easton Currie, Yao Ji, Mingyu Kim, Zeyu Zhou, David I. Inouye·· 16 小时前AI 评分25
GRIT:从有限且含噪的不变对提升分布外鲁棒性
GRIT: Out-of-Distribution Robustness from Finite and Noisy Invariant Pairs
AI 导读
提出 GRIT(几何鲁棒性不变训练)方法,通过估计固定预训练特征中成对差异协方差的不稳定子空间并投影剔除,以从有限且含噪的不变对中学习,提升分布外(OOD)鲁棒性。 该投影与预测器拟合分离,可兼容 ERM 或其他鲁棒性目标;在 16 种设置中的 15 种里,其平均准确率高于使用相同成对数据的一致性惩罚方法。 在 UrbanCars 上结合不同背景及共现物体变化成对数据,可提升最坏组准确率。
来源:arXiv · ML · arxiv.org