arXiv · AI· Desheng Xu, Hanglin Li, Tianchen Song, Zhiyong Zhao, Kun Zhan·· 10 小时前AI 评分34
LIRQuant 通过选择性旋转量化实现 LLaMA-3-8B 模型 25 分钟校准，W4A4KV4 精度领先。
LIRQuant: An Efficient Locally Isolated Rotation Quantization Method for Large Language Models
AI 导读
该方法使用噪声加权指标识别敏感通道，分别施加可学习旋转和固定旋转。 预填充加速 2.3 倍，内存节省 3.5 倍，已获 EMNLP 2026 接收。
来源：arXiv · AI · arxiv.org