跳到正文
arXiv · AI· Michael Schroeder·· 12 小时前AI 评分20

Sub-4-Bit Vision CNNs 量化崩溃机理与混合精度恢复极限分析

Why Sub-4-Bit Vision CNNs Collapse and Where Mixed-Precision Recovery Stops

AI 导读

研究揭示低比特压缩导致视觉 CNN 精度坍塌集中于后期 pointwise 投影层。 保留不足 5% 关键层激活为 8-bit 精度,可恢复激进 sub-4-bit 压缩下 92% 的丢失精度。 低比特量化虽降低存储需求,但运行时解包导致 1.48x 至 21.5x 执行速度下降。

来源:arXiv · AI · arxiv.org