arXiv · ML· Enzhan Zheng, Xiaoliang Song·· 11 天前AI 评分32
GMAdam:通过梯度调制解决物理信息神经网络(PINNs)优化不平衡问题
Task-Contribution Dynamics of Adam in Physics-Informed Neural Networks: Slow-Manifold Analysis and Gradient Modulation
AI 导读
提出梯度调制Adam(GMAdam),利用任务特定的二阶矩估计调节梯度,在预测精度上优于AdaTask且计算成本相当。 基于慢流形分析发现Adam任务贡献重分配受曲率对齐差异与预处理梯度分布影响,该机制揭示了优化动力学。 在高频Poisson、Allen-Cahn方程及Re=100,400的顶盖驱动腔流中验证了方法的有效性。
来源:arXiv · ML · arxiv.org