跳到正文
Hacker News LLM· garritfra·· 8 天前AI 评分59

Llmtee 发布:轻量级 LLM 代理,实现 API 成本监控与预算控制

Show HN: Llmtee – Lightweight LLM Proxy

AI 导读

Llmtee 是一款针对 OpenAI、Anthropic 及 OpenAI 兼容提供商(如 OpenRouter、Ollama)的自托管 LLM 代理。它通过修改客户端 base URL 即可拦截请求,记录 token 消耗、成本及延迟。

来源:Hacker News LLM · github.com