跳到正文
arXiv · AI· Hankyul Kang, Jongbin Ryu·· 2026-10-06AI 评分33

可微分位宽:通过 SVD 协同优化剪枝与量化,实现超高效 LLM 压缩

Differentiable Bit-Widths: Co-optimizing Pruning and Quantization via SVD for Ultra-Efficient LLM Compression

AI 导读

研究提出一种可微分位宽方法,在统一框架内协同优化基于 SVD 的剪枝与量化,为每个分量学习位宽,并将不重要分量以 0-bit 剪除。该 LLM 压缩方法在 1.61 bits 极端量化设置下优于两阶段基线,代码已公开,论文已被 NeurIPS 2026 接收。

来源:arXiv · AI · arxiv.org