跳到正文
arXiv · AI· Taehun Cha, Daniel Beaglehole, Adityanarayanan Radhakrishnan, Donghun Lee·· 7 小时前AI 评分32

权重 Gram 矩阵捕捉深层网络中的特征序贯线性化

The Weight Gram Matrix Captures Sequential Feature Linearization in Deep Networks

AI 导读

研究提出“特征学习方程”,指出权重 Gram 矩阵是捕捉特征动态的关键对象。 通过定义“虚拟协方差”和“目标线性度”,揭示了深层网络在训练中对表示进行序贯线性化的机制。 该视角统一解释了 Neural Collapse 及生成模型中的线性插值现象,论文已被 NeurIPS 2026 收录。

来源:arXiv · AI · arxiv.org