arXiv · NLP· Md Sakib Ul Islam, S M Mehedi Zaman·· 5 小时前AI 评分33
大语言模型发布的预训练信息披露审计：后续版本并未一致保留早期透明度
What Carries Forward? Pretraining Disclosure Across Language Model Releases
AI 导读
基于 2025 年 FMTI 指标审计 17 个模型家族的 41 个条目发现，后续发布未一致保留早期预训练披露，11 次对比中分数下降。 审计追踪 24 项指标在 24 组相邻对比中的变化，总共有 38 项指标损失和 28 项增益。 OLMo-2 和 OLMo-3 总分相同但存在三项增益和三项损失，Llama-3.1 总分提升却失去两项数据标准信用。
来源：arXiv · NLP · arxiv.org