arXiv · ML· Pengxiang Zhao, Xing Li, Hui-Ling Zhen, Weizhe Lin, Xianzhi Yu, Zhenhua Dong·· 7 天前AI 评分32
SoScale:面向 FP4 量化的二阶梯度搜索
SoScale: Second-Order Scale Search for FP4 Quantization
AI 导读
summary_zh: 提出 SoScale,一种用于层级 FP4 量化的二阶梯度权重码搜索方法,在 Qwen3 模型上降低了 MXFP4、NVFP4 和 HiF4 的量化性能下降。
来源:arXiv · ML · arxiv.org