arXiv · NLP· Szymon Kocur·· 2026-10-09AI 评分23
Wieszcz-XIX:31 亿词前 1918 年波兰语语料库及从头训练的时间受限模型
Wieszcz-XIX: A 3.1-Billion-Word Corpus of Pre-1918 Polish and Temporally Bounded Language Models Trained From Scratch
AI 导读
研究人员构建包含 6.75B tokens 的 Wieszcz-XIX 语料库,覆盖 1800-1918 年波兰语文档,并开源发布。 该语料库通过管道过滤、去重并审计后 1918 年文本泄漏,已知残留率为 0.04% 至 0.38%。 研究团队从头训练 47M 至 349M 参数模型,结果显示其时间受限性优于现代基础模型。
来源:arXiv · NLP · arxiv.org