跳到正文
arXiv · NLP· Abbas Sani·· 13 小时前AI 评分27

量化对低资源多语言翻译效果的影响:三项模型家族在非洲语言上的初步研究

Compression Effects on Low-Resource Multilingual Translation

AI 导读

量化压缩在低资源多语翻译中保持质量稳定,但推理延迟未降低。三项模型家族在豪萨语、斯瓦希里语和约鲁巴语上评估,FLORES-200数据集1012句/方向。 INT8和INT4量化内存节省49-61%,但延迟增加1.3-5.3倍,未实现加速。专用MT模型NLLB-200-distilled-1.3B在斯瓦希里语和豪萨语方向比LLM高32.7-43.3 chrF。

来源:arXiv · NLP · arxiv.org