arXiv · AI· Mich-Seth Owusu·· 4 小时前AI 评分33
Africa-Papers:面向非洲基础语言模型的100亿Token多学科学术语料库
Africa-Papers: A 10-Billion-Token Multi-Domain Academic Corpus for African Foundation Language Models
AI 导读
针对全球预训练语料中非洲学术内容占比不足0.5%的现状,研究团队推出迄今最大规模的泛非多学科学术语料库Africa-Papers。该语料库包含超过844,807篇全文论文和101.5亿个Token,数据整合自DOAJ索引的31个非洲国家期刊、CGIAR农业库、arXiv预印本及OpenAlex开放获取文献,并处理为保留层级结构的Markdown格式。
来源:arXiv · AI · arxiv.org