MPQ 提出消息传递视角的后训练量化方法
热点事件持续更新
MPQ 提出消息传递视角的后训练量化方法
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026 年 10 月 26 日,arXiv 发布论文 MPQ,提出将行级后训练量化(PTQ)视为离散码本的后验推理。该方法利用向量近似消息传递计算块级后验,并结合精确块坐标下降细化硬判决。 在 Llama、Qwen 和 Mistral 系列稠密语言模型上,该方法在 2-bit 格子和 3、4-bit 标量量化场景中提升了困惑度与零样本准确率,代码已公开。
AI 根据报道生成 · 49 分钟前更新
最新进展10月26日 12:00
MPQ 提出消息传递视角的后训练量化方法报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- arXiv · AIMPQ 提出消息传递视角的后训练量化方法
MPQ 将行级后训练量化(PTQ)视为离散码本的后验推理,利用向量近似消息传递计算块级后验,再结合精确块坐标下降细化硬判决。 该方法在 Llama、Qwen 和 Mistral 系列稠密语言模型上,针对 2-bit 格子和 3-、4-bit 标量量化场景,提升了困惑度和零样本准确率。 代码已公开。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。