arXiv · AI· Rong Shan, Aofan Yu, Bo Chen, Kuo Cai, Qiang Luo, Ruiming Tang, Han Li, Weiwen Liu, Weinan Zhang, Jianghao Lin·· 5 小时前AI 评分33
MuonRec 框架将 Muon 优化器引入可扩展生成式推荐
MuonRec: Shifting the Optimizer Paradigm Beyond Adam in Scalable Generative Recommendation
AI 导读
MuonRec 是首个将 Muon 优化器引入推荐系统训练的开源框架,通过 Newton-Schulz 迭代实现正交化动量更新。 该框架在序列与生成式推荐模型中验证,将收敛训练步数平均减少 32.4%,NDCG@10 平均提升 12.6%。 实验结果超越 Adam/AdamW 基线,确立了 Muon 作为推荐系统训练新标准的潜力。
来源:arXiv · AI · arxiv.org