研究质疑深度ReLU网络最佳逼近性质
热点事件持续更新
研究质疑深度ReLU网络最佳逼近性质
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月23日,arXiv机器学习领域发表新研究,指出深度ReLU网络可能不具备连续目标函数的最佳逼近性质。 研究者在[-1,1]^2区间构造连续函数反例,证明两层隐藏层且架构为(2,2,1,1)的ReLU网络,其在L^2近似误差下的下确界无法取到。 该结论与单层ReLU网络存在全局极小值的现有结果形成对比。研究指出,关键在于第二隐藏层神经元折点弯曲破坏了对称性论证,表明深度网络缺乏一般最佳逼近性质。
AI 根据报道生成 · 59 分钟前更新
最新进展10月23日 12:00
深度 ReLU 网络可能不具备连续目标函数的最佳逼近性质报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- arXiv · ML深度 ReLU 网络可能不具备连续目标函数的最佳逼近性质
作者构造了 $[-1,1]^2$ 上的连续函数反例,证明两层隐藏层且架构为 $(2,2,1,1)$ 的 ReLU 网络 $L^2$ 近似误差下确界无法取到,表明深度 ReLU 网络不具有一般最佳逼近性质。 该结论与单层 ReLU 网络存在全局极小值的现有结果形成对比,证明关键在于第二隐藏层神经元折点弯曲破坏了对称性论证。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。