arXiv · ML· Wilson Wu, Victor Lecomte, Michael Winer, George Robinson, Jacob Hilton, Paul Christiano·2026-11-04 13:00· 5 小时前AI 评分25

比采样更高效地估算宽随机 MLP 的预期输出

Estimating the expected output of wide random MLPs more efficiently than sampling

AI 导读

提出一种无需将样本输入网络即可估算初始化状态下宽随机 MLP 在 Gaussian 输入下预期输出的方法。利用累积量和 Hermite 展开近似激活分布，在达到目标均方误差时所需的 FLOPs 远少于蒙特卡洛采样。该方法能更好地估算小概率事件，可用于模型训练并降低灾难性尾部风险。

来源：arXiv · ML · arxiv.org