跳到正文
arXiv · ML· Guy Hadad, Haggai Roitman, Moshe Eliasof, Bracha Shapira·· 23 小时前AI 评分27

GraphMuon:面向图神经网络的图感知优化器

Module-Aware Optimization for Graph Neural Networks

AI 导读

summary_zh: GraphMuon 提出了一种图感知优化器,通过适应 Muon 的矩阵更新以匹配图传播输入的协方差结构。 该优化器在正交化时使用由传播表示定义的度量,并按更新对层表示的诱导效应归一化步长。

来源:arXiv · ML · arxiv.org