跳到正文
Hacker News LLM· shardullavekar·· 4 天前AI 评分39

Daptin 新增 LLM 路由器功能指南

Daptin Plus an LLM Router

AI 导读

Daptin 新增 LLM 路由器功能,支持接入多家供应商,通过账户和群组管理用户访问模型及调用权限。 每个账户可配置请求限制、token 配额和消费预算,支持 fallback 路由、对话续接及图像输入。 资源、路由和使用记录可通过 Daptin API 管理,本地实例支持 Docker 快速部署。

来源:Hacker News LLM · github.com