跳到正文
R/ArtificialInteligence· /u/nukebuddy·· 5 天前AI 评分59

Vercel AI 网关报告揭示决策模型以极低成本处理 26% 请求

Vercel says decision models handled 26% of gateway requests for just 0.53% of spending

AI 导读

Vercel 11 月 AI 网关报告显示,10 月决策模型处理了 26% 的请求,但仅占 0.53% 的支出。这些模型用于分类、打分或选择选项,其平均单次请求成本约为语言模型的 1/70。报告指出,近三分之一的付费团队使用了决策模型,而在月处理量超过 100 亿 token 的团队中,使用率高达 70%。

来源:R/ArtificialInteligence · reddit.com