跳到正文
arXiv · ML· David Gonz\'alez-Mart\'inez·· 9 天前AI 评分23

BALF:面向免微调模型压缩的预算感知激活感知低秩分解

BALF: Budgeted Activation-Aware Low-Rank Factorization for Fine-Tuning-Free Model Compression

AI 导读

提出 BALF 框架,实现免微调的端到端模型压缩,涵盖线性层及标准/分组卷积。 该方法通过拉格朗日松弛分配各层秩,以输出失真最小为优化目标。 在 CIFAR-10 和 ImageNet-1K 上,BALF 在相同 FLOP 或参数量预算下精度优于 SVD 基线。

来源:arXiv · ML · arxiv.org