跳到正文
arXiv · ML· Yatin Dandi, Matteo Vilucchio, Hugo Tabanelli, Florent Krzakala·· 5 小时前AI 评分26

带背向耦合的神经 LoFi:跨层特征学习的谱理论

Neural LoFi with Backward Coupling: A Spectral Theory of Cross-Layer Feature Learning

AI 导读

研究扩展 Neural LoFi,推导反向传播引起的层间局部耦合动力学,并建立函数空间变分原理。 在三层网络及分层多索引模型中,该背向耦合机制能恢复前向标签加权统计无法感知的低层特征方向。 在 binary CIFAR-10 全连接及卷积网络实验中,该方法在匹配宽度下精度优于前向 Neural LoFi。

来源:arXiv · ML · arxiv.org