跳到正文
arXiv · NLP· Irina Proskurina, Guillaume Metzler, Julien Velcin·· 2026-10-09AI 评分28

Fair-GPTQ:面向大语言模型偏差感知量化的新方法

Fair-GPTQ: Bias-Aware Quantization for Large Language Models

AI 导读

Fair-GPTQ 提出首个显式降低大语言模型不公平性的量化方法,通过为量化目标添加群体公平性约束实现。该方法在处理职业偏差、性别、种族和宗教歧视性语言时,保持零样本基准测试至少 90% 的准确率,同时保留 4-bit 量化的内存和速度优势,已获 TACL 接收。

来源:arXiv · NLP · arxiv.org