跳到正文
arXiv · NLP· Bolin Shen, Shaoyi Huang, Yushun Dong·· 3 天前AI 评分40

大语言模型助力 AI 基础设施:全生命周期综述与跨研究定量综合

Large Language Models for AI Infrastructure

AI 导读

本文系统综述了大语言模型(LLM)在 AI 基础设施全生命周期中的应用,涵盖加速器设计、内核工程、编译、部署、运维、数据管理及能效优化。 文章按 LLM 管理的主要资源构建分类法:面向产物的计算方法、面向运行的部署/系统状态方法,以及面向资源的数据与能效方法。

来源:arXiv · NLP · arxiv.org