跳到正文
arXiv · ML· Thomas Nagler·· 8 小时前AI 评分20

ReLU 神经网络逼近光滑函数的最优性研究

Optimal approximation of smooth functions by ReLU neural networks

AI 导读

ReLU 神经网络对 Hölder 球函数的最优逼近间隙已闭合。宽度 O(N)、深度 O(L) 的网络可实现 $(N^2L^2\log N)^{-s/D}$ 的逼近误差,无需宽深关联。 该构造利用高阶有限差分界编码局部泰勒系数,使经验风险最小化达到 $n^{-2s/(2s+D)}$ 极小极大回归速率,且无额外对数因子。

来源:arXiv · ML · arxiv.org