跳到正文
热点事件持续更新

MPQ 提出消息传递视角的后训练量化方法

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

2026 年 10 月 26 日,arXiv 发布论文 MPQ,提出将行级后训练量化(PTQ)视为离散码本的后验推理。该方法利用向量近似消息传递计算块级后验,并结合精确块坐标下降细化硬判决。 在 Llama、Qwen 和 Mistral 系列稠密语言模型上,该方法在 2-bit 格子和 3、4-bit 标量量化场景中提升了困惑度与零样本准确率,代码已公开。

AI 根据报道生成 · 49 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv · AI
    MPQ 提出消息传递视角的后训练量化方法

    MPQ 将行级后训练量化(PTQ)视为离散码本的后验推理,利用向量近似消息传递计算块级后验,再结合精确块坐标下降细化硬判决。 该方法在 Llama、Qwen 和 Mistral 系列稠密语言模型上,针对 2-bit 格子和 3-、4-bit 标量量化场景,提升了困惑度和零样本准确率。 代码已公开。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。