跳到正文
arXiv · ML· Zhiwei Zhai, Wenjing Yan, Ying-Jun Angela Zhang·· 5 小时前AI 评分25

Sharpness-Aware Muon:结合动量引导扰动的矩阵感知优化器

Sharpness-Aware Muon: Matrix-Aware Optimization with Momentum-Guided Perturbations

AI 导读

研究提出 Sharpness-Aware Muon 优化框架,通过引入 Sharpness-Aware Minimization 风格扰动解决 Muon 仅塑造更新几何、未显式控制邻域最坏损失的问题。

来源:arXiv · ML · arxiv.org