arXiv · ML· Joseph Turnbull, Berkan Ottlik, Jamie Simon·· 7 小时前AI 评分21
“特征 ODE”如何描述浅层 MLP 在简单函数上的学习行为
A "feature ODE" describing the learning behavior of shallow MLPs on simple functions
AI 导读
研究提出“特征 ODE”模型,发现浅层 MLP 在简单函数训练中的损失轨迹与该模型高度吻合。 该现象出现在各向异性高斯数据及低阶 Hermite 多项式等简单目标下,其匹配结果超出简化假设的预期。 论文该工作已被 ICML 2026 HiLD workshop 接收。
来源:arXiv · ML · arxiv.org