跳到正文
热点事件持续更新

SGD随机学习流矩方程论文发布

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

10月30日,Christian Schmid和James Murray在arXiv平台发布论文《随机学习流:有限步长随机梯度下降的矩方程》。 该研究推导了有限步长SGD的连续时间方程,并基于Gaussian闭包描述了参数均值与协方差的演化过程。 方程揭示了协方差在曲率2/eta处失稳的现象,且全批次极限下能自洽恢复边缘稳定与中央流特性。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · ML
    随机学习流:有限步长随机梯度下降矩方程

    该研究推导了有限步长随机梯度下降的随机学习流连续时间方程,在Gaussian闭包下描述参数均值与协方差演化。 方程表明协方差在曲率2/eta处失稳,SGD下比梯度流更精准捕捉学习曲线与均值轨迹。 全批次极限下该动态自洽恢复边缘稳定与中央流。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。