跳到正文
热点事件持续更新

PiSO发布:LLM后训练量化新算法

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

10月20日,arXiv论文发布PiSO算法。该基于分段最优标度的后训练量化方法,能根据校准数据为LLM选择全局最优的通道级标度,显著降低重构误差。 实验显示,PiSO在Llama和Qwen多个模型及位宽下均提升了困惑度与零样本准确率。其中在2位量化场景下,其将Qronos对Llama-3的困惑度降低了多达7倍。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. arXiv · ML
    PiSO:基于分段最优标度的大语言模型后训练量化算法

    PiSO 提出了一种后训练量化算法,能根据校准数据为 LLM 选择全局最优的通道级标度,显著降低重构误差。 该算法在 Llama 和 Qwen 多个尺寸与位宽实验中一致提升了困惑度与零样本准确率;在 2 位量化下,PiSO 可将 Qronos 的 Llama-3 困惑度降低多达 7 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。