跳到正文
arXiv · AI· Yi Ding, Li Shang·· 6 小时前AI 评分27

Formulaic 框架实现 AI 基础设施软硬件协同设计

Learning to Formulate: Agentic Hardware-Software Co-Design of AI Infrastructure through Progressive Optimization and Verification

AI 导读

Formulaic 框架通过语言模型智能体优化 AI 基础设施的软硬件协同设计。在 NVIDIA GB10 上,智能体编写的模板使 Qwen3-8B 层运行速度较 SGLang 提升 1.075 倍。 模拟 Ventus GPU 研究显示,联合设计将 Qwen2.5-0.5B 的最坏情况周期降至参考值的 0.428 倍。

来源:arXiv · AI · arxiv.org