arXiv · NLP· Tohir Saidzoda, Madina Abdusalomzoda, Nasimjon Rajabov, Akhrorkhon Ikromov, Komron Giyosiev, Abubakr Abdullozoda, Amin Jalilov, Jonibek Kishvarov, Rahmonali Sharipov, Mariyamkhon Shodyeva·· 15 天前AI 评分32
Qwen3 塔吉克语适配:降低文本损失未必提升理解力
Adapting Qwen3 to Tajik from 0.6B to 8B: Lower Text Loss Did Not Mean Better Understanding
AI 导读
针对 Qwen3 0.6B至8B模型的塔吉克语 LoRA 适配器降低了文本损失,但未提升阅读理解,Belebele 准确率无改善甚至下降。 8B 模型经 3.75 亿 token 继续预训练及微调后,主模型 e3 在 Belebele 上比 Qwen3-8B 高 11.4 分,MMLU 下降 1.2 分;0.6B 模型表现接近随机,MMLU 跌 7.6 分。
来源:arXiv · NLP · arxiv.org