跳到正文
arXiv · NLP· Prasoon Bajpai, Eleftheria Briakou, Colin Cherry, Preethi Jyothi, Vihari Piratla·· 10 天前AI 评分28

跨语言迁移是否真正在进步?重新审视多语言模型

Are Multilingual Models Actually Improving? Revisiting Cross-Lingual Transfer

AI 导读

论文提出硬度调整迁移(HAT)分数,以准确衡量从源语言到低资源目标语言的泛化能力,避免混淆源语言精度提升与真实迁移能力。 研究分析 20 个多样化语言模型在 3 个主流多语言基准上的表现,发现小模型迁移并非失效,但随着模型规模增大,跨语言迁移的进步速度慢于预期。 尽管整体时间维度上取得了明确进步,该指标揭示了当前多语言模型在扩展规模时迁移能力增长的瓶颈。

来源:arXiv · NLP · arxiv.org