arXiv · ML· Zhiwei Zhai, Wenjing Yan, Ying-Jun Angela Zhang·· 5 小时前AI 评分25
Sharpness-Aware Muon:结合动量引导扰动的矩阵感知优化器
Sharpness-Aware Muon: Matrix-Aware Optimization with Momentum-Guided Perturbations
AI 导读
研究提出 Sharpness-Aware Muon 优化框架,通过引入 Sharpness-Aware Minimization 风格扰动解决 Muon 仅塑造更新几何、未显式控制邻域最坏损失的问题。
来源:arXiv · ML · arxiv.org