Muon 优化器训练稳定性获理论证实

一项新研究对 Muon 优化器进行了稳定性分析。研究人员通过 sharpness 分析证实，该优化器符合平坦极小值假设（Flat Minima Hypothesis）。 研究显示，即使学习率设定高于经典阈值，Muon 优化器仍能保持训练过程的稳定。这一发现为理解该类优化器突破传统稳定性边界的表现提供了理论依据，明确了其在高阈值下的稳定特性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。