arXiv · ML· Ali Dadsetan, Domenic Rosati, Frank Rudzicz·· 3 小时前AI 评分28
ZEMA：仅用单一状态实现置信度校准符号下降的优化器
ZEMA: confidence-calibrated signed descent with only one state
AI 导读
ZEMA 优化器通过 per-coordinate z-score 将梯度不确定性转化为符号概率，仅需单一指数移动平均状态。 相比 Adam，ZEMA 在逐步时间上增加 4.6 倍，但减少了验证损失波动，并能更一致地恢复全数据集梯度符号。
来源：arXiv · ML · arxiv.org