跳到正文
Hacker News AI· sha_rad·· 7 小时前AI 评分75

Together AI 发布 Together Compiler 实现 AI 推理的持续编译

Together AI Compiler for Inference

AI 导读

Together AI 发布 Together Compiler (TKCC),这是一个利用智能体进行持续优化的推理编译系统。该系统通过持久化引擎和并行智能体将实验吞吐量提升 252 倍,使推理负载在 24 小时内完成优化。

来源:Hacker News AI · together.ai