跳到正文
Hacker News AI· fsbonetto·· 13 天前精选AI 评分85

openTPU发布:由AI设计的开源加速器可运行自身推理

AI is now capable of developing its own inference hardware

AI 导读

openTPU是一款由AI Agent辅助设计的开源AI加速器,已在一块FPGA卡上实测运行LFM2.5-230M等十个模型,芯片输出的token与模拟器逐位匹配。在Inspur YPCB-00338卡上,LFM2.5-230M 4-bit权重解码速度为85.8 tok/s,Qwen3.5-4B解码速度为5.88 tok/s。

推荐理由

原文明确展示AI Agent设计并验证了能运行自身推理的开源加速器芯片,读者可了解软硬件协同的端侧推理路径。

来源:Hacker News AI · github.com