跳到正文
arXiv · ML· Rahul Nittala, Advait Gadhikar, Tom Jacobs, Rebekka Burkholz·· 2026-10-21AI 评分32

ARC:通过交替稀疏相位优化神经网络稀疏化性能与计算成本

AC/DC on a Budget - Alternating Sparse Phases

AI 导读

ARC(Alternating Rewiring Compression)在 CIFAR100 和 ImageNet 上以极低计算成本匹配了基线 AC/DC 的性能。 该方法通过零初始化掩码参数、缩短密集相位,并用稀疏重布线相位替代密集相位来优化性能与 FLOPs 的帕累托前沿。 实验还显示 ARC 在 GPT-2 上提升了验证困惑度和零样本平均表现,论文已被 NeurIPS 2026 接收。

来源:arXiv · ML · arxiv.org