跳到正文
R/ArtificialInteligence· /u/zackku·· 9 小时前AI 评分40

ModelAnalysis.si 工具发布:支持 450+ 模型的 API 与 RunPod 自托管盈亏平衡计算

Built an open tool to calculate exact API vs. Self-Hosting (RunPod) breakeven points across 450+ models

AI 导读

ModelAnalysis.si 工具上线,支持 450+ 模型,通过调整输入/输出 token 量和缓存命中率计算 API 与 RunPod 自托管的盈亏平衡点。 该工具映射不同量化(Q4/FP8/FP16)下的 VRAM 需求,并集成实时定价、LMSYS Arena ELO 排名及延迟统计,无登录或付费墙。

来源:R/ArtificialInteligence · reddit.com