Hacker News LLM· Moon_Y·· 12 天前精选AI 评分80
FreeLLMAPI 发布:聚合 34 家提供商的 OpenAI 兼容免费 LLM API 路由
FreeLLMAPI – One OpenAI-Compatible API for Multiple Free LLM Providers
AI 导读
FreeLLMAPI 是一个本地优先的开源工具,将 34 家提供商的 635 个免费模型端点聚合为单一的 OpenAI 兼容 API。其核心路由机制能实时追踪各提供商的速率限制,在遇到 429 错误时自动切换至备选模型,从而充分利用每月约 74 亿 tokens 的免费推理额度。
推荐理由
该工具将34家免费LLM提供商聚合为单一OpenAI兼容接口,通过智能路由和失败重试机制解决了多平台免费额度管理碎片化的痛点。
来源:Hacker News LLM · github.com