arXiv · NLP· Mullosharaf K. Arabov, Svetlana S. Khaybullina·· 3 小时前AI 评分30
巴什基尔语低资源 LLM 适应:语料库、数据集与可复现基准
Parameter-Efficient Adaptation of Large Language Models to a Low-Resource Agglutinative Language: A Corpus, Datasets, and a Reproducible Benchmark for the Bashkir Language
AI 导读
针对低资源巴什基尔语,发布含 46.9M tokens 语料及三类标注数据集的开源基准,测试 8 种模型(82M-8B)及 QLoRA 等适应方法。 QLoRA 结合持续预训练在二元分类中表现最佳,YandexGPT-5-Lite-8B macro-F1 达 0.748;巴什基尔语 tokenizer 生育率差异达 2.67 倍。
来源:arXiv · NLP · arxiv.org