跳到正文
arXiv · AI· Yu Dong, Hong Li, Qiang Sun, Xu Zhou, Jinbiao Huo, Qixiu Cheng, Zhiyuan Liu·· 9 天前AI 评分27

LM-SimBench:评估大语言模型训练模拟器的统一框架、数据集与基准

LM-SimBench: A Unified Framework, Dataset, and Benchmark for Large Language Model Training Simulation

AI 导读

LM-SimBench 提出 LLM 训练模拟器的统一评估框架、剖析数据集及基准,支持预测精度比较与配置选择评估。 框架分解模拟阶段,在 Ascend NPU 集群剖析 10 个 LLM 家族的 23 种设置,生成 348 种可行配置。 匹配 GPU-NPU 实验验证跨平台适用性,支持 NPU 指导的 GPU 配置选择。

来源:arXiv · AI · arxiv.org