Hacker News AI· Ir0n·· 4 小时前AI 评分44
Goethe:自托管 AI 基础设施
Show HN: Goethe – The infrastructure for self-hosted AI
AI 导读
Goethe 将 Linux 机器转换为兼容 OpenAI、Anthropic 和 LiteLLM 客户端的自托管 API,实现模型的快速部署与共享。安装后只需三步即可加载模型、配置 API 并管理访问密钥,支持多模型并行运行及多 GPU 拆分。该工具默认私有,支持 NVIDIA 580 及以上驱动的 GPU,代码采用 Apache License 2.0 开源。
来源:Hacker News AI · github.com