跳到正文
IT之家·· 2 小时前AI 评分66

律师用 12 张二手 V100 构建 DeepSeek 推理集群,最高吞吐 184 token/s

12 张二手英伟达 V100:律师自建 AI 集群跑 DeepSeek,最高每秒 184 个词元

AI 导读

Reddit 用户 u/TumbleweedNew6515(职业为律师)花费 9,450 美元采购 12 张二手英伟达 V100 SXM2 32GB 显卡,搭建本地 AI 集群。

来源:IT之家 · ithome.com