跳到正文
热点事件持续更新

面向数据中心的2位后训练量化恢复方法发布

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Rhea Sanjay Sukthanker等人于2026年10月21日在arXiv提出一种面向数据中心的后训练量化与恢复方法。该方案采用约2.3有效位/权重的向量码本策略,解决标量配置在2位精度下准确率跌至随机水平的问题。在涵盖3.8B至32B参数的6个模型实验中,该方法保留了89%-97%的问答准确率,且恢复阶段计算量比最强量化感知训练(QAT)基准低1.4至30倍。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. arXiv · AI
    超越4比特:面向数据中心的后训练量化与恢复方法

    后训练量化在2位精度下,标量配置准确率跌至随机水平,而向量码本可恢复可用模型性能。该方案使用约2.3有效位/权重,在标量失效的情况下保留了89%-97%的问答准确率。 实验涵盖6个从3.8B到32B参数的稠密与MoE模型,恢复阶段计算量比最强QAT基准低1.4至30倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。