跳到正文
arXiv · AI· Mich-Seth Owusu·· 4 小时前AI 评分33

Africa-Papers:面向非洲基础语言模型的100亿Token多学科学术语料库

Africa-Papers: A 10-Billion-Token Multi-Domain Academic Corpus for African Foundation Language Models

AI 导读

针对全球预训练语料中非洲学术内容占比不足0.5%的现状,研究团队推出迄今最大规模的泛非多学科学术语料库Africa-Papers。该语料库包含超过844,807篇全文论文和101.5亿个Token,数据整合自DOAJ索引的31个非洲国家期刊、CGIAR农业库、arXiv预印本及OpenAlex开放获取文献,并处理为保留层级结构的Markdown格式。

来源:arXiv · AI · arxiv.org