arXiv · ML· Xincheng Xu, Thilina Ranbaduge, Thierry Rakotoarivelo, David Smith·· 5 小时前AI 评分24
CA-DPSGD:利用近似二阶信息缓解 DPSGD 中的梯度裁剪偏差
Curvature-Aware Clipping: Mitigating Bias in DPSGD via Approximate Second-Order Information
AI 导读
研究提出 CA-DPSGD 框架,利用近似二阶信息构建曲率感知裁剪空间以缓解 DPSGD 偏差。 该框架集成曲率矩阵校正估计器,并结合各向异性噪声机制保障隐私性,实验显示其性能优于现有先进方法。
来源:arXiv · ML · arxiv.org