arXiv · NLP· Tohir Saidzoda, Nekruz Maxudov, Bedil Karimov, Abubakr Abdullozoda, Amin Jalilov, Jonibek Kishvarov, Rahmonali Sharipov, Mariyamkhon Shodyeva·· 2 小时前AI 评分23
Saidzoda-Tajik-LFM-2.6B 适配塔吉克语工具调用及持续预训练影响分析
Saidzoda-Tajik-LFM-2.6B: Adapting a 2.6B Hybrid Model to Tajik Tool Calling, and What Continued Pretraining Takes Away
AI 导读
发布 Saidzoda-Tajik-LFM-2.6B，基于 LFM2.5-2.6B-Base 适配塔吉克语工具调用。经 LoRA 持续预训练与 SFT，塔吉克语严格全调用准确率从 20.69 升至 64.14。 CPT 去除了原生工具调用格式，导致所有检查点评分为零；英文 MMLU 下降至 52.5，模型在多轮调用及拒绝无效工具方面表现较弱。
来源：arXiv · NLP · arxiv.org