arXiv · ML· Alicem Koyun·· 9 小时前AI 评分28
MGO-SC：Adam 风格更新中的简单一致性门控优化器
Moment-Guided Optimizers for Noisy Deep Learning: MGO-SC as a Simple Consistency Gate for Adam-Style Updates
AI 导读
研究提出 MGO-SC 优化器，通过符号一致性门控调整 Adam 风格更新。在 CIFAR-10 和 ResNet-18 上，40% 对称标签噪声下较 AdamW 基线提升 1.4 个百分点。该变体不引入二阶信息，代码与日志已开源。
来源：arXiv · ML · arxiv.org