跳到正文
arXiv · AI· Jiahui Ning, Liang Chen, Yuchen Liang, Yi Zhang, Fenglei Fan·· 8 小时前AI 评分28

ACE-Compression:基于能力中心的大语言模型压缩评估框架

ACE-Compression: An Ability-Centric Evaluation of Compressed Large Language Models

AI 导读

研究提出ACE-Compression框架,评估六个开源LLM在量化与剪枝压缩下的能力保留情况。 该框架涵盖程序推理、知识接地、社交认知及人格一致性四个维度,发现量化通常优于剪枝,但结果依赖于具体应用所需能力。 该方法将模型压缩从单纯关注准确率下降转变为可解释的能力诊断过程,为部署者提供方法选择依据。

来源:arXiv · AI · arxiv.org