跳到正文
arXiv · ML· Vincent Counathe, Ben Athiwaratkun, Christopher De Sa, Tianyi Zhang·· 2026-10-07AI 评分25

QUASAR:通过感知损失的轻量级重建降低量化感知训练的损失下限

QUASAR: Lowering the Loss Floor of Quantization-Aware Training with Loss-Aware Reconstruction

AI 导读

QUASAR提出一种在量化感知训练(QAT)中引入轻量级感知损失重建的方法,通过搜索裁剪范围和最小二乘拟合优化训练轨迹,在四个模型族和INT4至INT2量化格式上取得一致性能提升。

来源:arXiv · ML · arxiv.org