两个 ReLU 神经元的梯度下降：全局景观与分叉动力学

该研究在双神经元 ReLU 教师-学生模型中，证明梯度下降的动态由“易”的二分角方向和“难”的分裂方向组织。 论文分析了群体平方损失景观，发现所有双神经元非零临界点均为全局最小值或鞍点。 神经元先向二分角鞍点塌缩，随后逃逸并特化为教师神经元，解释了多阶段对称破缺行为。