Hacker News AI· sha_rad·· 7 小时前AI 评分75
Together AI 发布 Together Compiler 实现 AI 推理的持续编译
Together AI Compiler for Inference
AI 导读
Together AI 发布 Together Compiler (TKCC),这是一个利用智能体进行持续优化的推理编译系统。该系统通过持久化引擎和并行智能体将实验吞吐量提升 252 倍,使推理负载在 24 小时内完成优化。
来源:Hacker News AI · together.ai