跳到正文
Hacker News AI· episod·· 21 天前AI 评分26

在 Tenstorrent Blackhole 上运行 Agentic AI 的 Prefill 和 Decode

Serving Prefill and Decode for Agentic AI (On Tenstorrent Blackhole)

AI 导读

文章展示了在 Tenstorrent Blackhole 硬件上为 Agentic AI 服务 Prefill 和 Decode 阶段的方法。 硬件平台为 Tenstorrent Blackhole,针对 Agentic AI 场景优化了推理流程。

来源:Hacker News AI · tenstorrent.com