跳到正文
arXiv · ML· Jingquan Yan, Yuwei Miao, Peiran Yu, Junzhou Huang·· 9 小时前AI 评分24

B2P-Corr: 面向不可分解相关损失的批次到总体梯度估计器

B2P-Corr: Batch-to-Population Gradient Estimators for Non-Decomposable Correlation Losses

AI 导读

B2P-Corr 框架将相关系数转化为可分解伪损失,解决了随机优化中数据集级矩依赖导致的梯度偏差问题。 该方法包含 B2P-EMA 和 B2P-U 两种变体,均实现 O(B) 计算成本,理论证明其具备 O(B^{-1}) 偏差量化能力。 实验显示该框架在五个数据集上优化更稳定且相关系数更高,已被 NeurIPS 2026 接收。

来源:arXiv · ML · arxiv.org