arXiv · ML· Vincent Counathe, Ben Athiwaratkun, Christopher De Sa, Tianyi Zhang·· 2026-10-07AI 评分25
QUASAR:通过感知损失的轻量级重建降低量化感知训练的损失下限
QUASAR: Lowering the Loss Floor of Quantization-Aware Training with Loss-Aware Reconstruction
AI 导读
QUASAR提出一种在量化感知训练(QAT)中引入轻量级感知损失重建的方法,通过搜索裁剪范围和最小二乘拟合优化训练轨迹,在四个模型族和INT4至INT2量化格式上取得一致性能提升。
来源:arXiv · ML · arxiv.org