跳到正文
热点事件持续更新

arXiv 2611.01868 发布关于 Adam 优化器的研究

1 篇报道1 个报道来源7 小时前更新

先了解这件事

报道摘要

非凸 Burer-Monteiro 低秩矩阵感知中,Adam 优化器的失效边界受自生成动力学下限约束。 实验发现当初始 epsilon 低于 10^-8 时失效边界保持平坦,warm-started L-BFGS 可达机器精度。 拟合参数 epsilon_dyn = 4.76x10^-9 预测 D>=4 时的失效边界,降低学习率 alpha 可直接降低下限。

摘自 arXiv · ML

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · ML
    Adam优化器在幂律矩阵感知中自生成 epsilon 下限的证据

    非凸 Burer-Monteiro 低秩矩阵感知中,Adam 优化器的失效边界受自生成动力学下限约束。 实验发现当初始 epsilon 低于 10^-8 时失效边界保持平坦,warm-started L-BFGS 可达机器精度。 拟合参数 epsilon_dyn = 4.76x10^-9 预测 D>=4 时的失效边界,降低学习率 alpha 可直接降低下限。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。