arXiv · NLP· Marianna Nezhurina, Harsh Raj, Victor May, J\"org Franke, Taishi Nakamura, Timur Carstensen, Niccol\`o Ajroldi, Ville Komulainen, David Salinas, Jenia Jitsev·· 6 小时前AI 评分33
open-sci-ref-0.02 发布：面向可复现语言模型与数据集比较的开源参考基准
Open-sci-ref-0.02: open reference baselines for reproducible language model and dataset comparison
AI 导读
summary_zh: open-sci-ref-0.02 发布了 0.13B-1.7B 参数规模、覆盖 9 个参考数据集的开源 Transformer 模型族，支持最高 1T token 预算的训练与评估。
来源：arXiv · NLP · arxiv.org