跳到正文
arXiv · ML· Niko Covic, Baraq Lipshitz, Alexander Padula, Stefan Visnjic·· 6 小时前AI 评分23

Muon 优化器超越经典稳定性边界

Muon Operates Beyond the Edge of Stability

AI 导读

summary_zh: 研究通过 sharpness 分析证实 Muon 优化器符合 Flat Minima Hypothesis,且在高于经典阈值的情况下保持训练稳定。

来源:arXiv · ML · arxiv.org