arXiv · ML· Wei Huang, Youjin Deng·· 11 天前AI 评分31
统计物理视角下的深度学习理论专题综述
Deep Learning Theory through the Lens of Statistical Physics: A Topical Review
AI 导读
该综述系统阐述如何借用统计物理语言,如平均场、相变和自由能景观,解释深度网络在高维非线性系统中的学习与泛化机制。 文中梳理了宽网络的平均场分析、损失几何视角、基于随机梯度的动态过程,以及将过参数化和表征变化归纳为相类比的近期进展。 作者将这些分散的线索整合成统一的物理框架,旨在厘清各类近似适用边界,并解释确定性优化与随机优化之间的关联。 ```
来源:arXiv · ML · arxiv.org