Polar Switch梯度正交化方法发表
热点事件持续更新
Polar Switch梯度正交化方法发表
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
Zhehang Du与Weijie Su发表Polar Switch多项式梯度正交化方法。该方法通过多项式电路实现梯度正交化，相比Polar Express和Gram Newton-Schulz，在方形矩阵运行时降低15.5%–18.7%，矩形矩阵降低8.6%–16.2%。 研究在Qwen3-0.6B和Gemma 3-1B预训练中验证，损失表现相当且数值稳定性良好，表明方法有效。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 12:00
Polar Switch: 基于多项式电路的快速 Muon 正交化方法报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- arXiv · MLPolar Switch: 基于多项式电路的快速 Muon 正交化方法
研究提出 Polar Switch，通过多项式电路在相同近似精度下，以更低计算成本实现梯度正交化。 相比 Polar Express 和 Gram Newton-Schulz，Polar Switch 在方形矩阵运行时降低 15.5%–18.7%，在矩形矩阵降低 8.6%–16.2%。 在 Qwen3-0.6B 和 Gemma 3-1B 预训练中验证损失表现相当，数值稳定性良好。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。