arXiv · ML· Xuan Qi, Yi Wei, Fanqi Yu, Furao Shen, Vittorio Murino, Cigdem Beyan·· 3 天前AI 评分20
训练时批量归一化重塑分段仿射网络的局部分区几何
Training-Time Batch Normalization Reshapes Local Partition Geometry in Piecewise-Affine Networks
AI 导读
该研究揭示了训练时批量归一化(BN)通过平移切换超平面,重塑了连续分段仿射(CPA)网络在局部窗口内的几何结构。 在一般位置假设下,BN 层使局部窗口内的仿射区域数量下限取决于批次扩散度而非偏置,且该精确公式在深层网络中依然成立。 实证数据显示,BN 增加了期望局部区域数量,其中大部分额外区域源自内部交集。
来源:arXiv · ML · arxiv.org