Hacker News AI· episod·· 21 天前AI 评分26
在 Tenstorrent Blackhole 上运行 Agentic AI 的 Prefill 和 Decode
Serving Prefill and Decode for Agentic AI (On Tenstorrent Blackhole)
AI 导读
文章展示了在 Tenstorrent Blackhole 硬件上为 Agentic AI 服务 Prefill 和 Decode 阶段的方法。 硬件平台为 Tenstorrent Blackhole,针对 Agentic AI 场景优化了推理流程。
来源:Hacker News AI · tenstorrent.com