跳到正文
arXiv · ML· Donghyun Lee, Arkapravo Ghosh, Varun Manjunath, Bumjoon Kyle Rhee, Hyunho Kook, Shiting Xiao, Youngeun Kim, Priyadarshini Panda·· 2026-10-07AI 评分30

SoloQ: 面向扩散语言模型的无校准量化方法

SoloQ: Calibration-Free Quantization for Diffusion Language Models

AI 导读

SoloQ 是一种无校准量化框架,通过结构化 K-RPBH 旋转将权重与激活映射至归一化旋转基,实现数据无关量化。 该方法支持 NVFP4 量化,在 4-bit 下保持精度,峰值内存降低最多 2.61 倍,端到端推理加速最高达 2.24 倍,适用于 LLaDA 等扩散语言模型。

来源:arXiv · ML · arxiv.org