#74 · 主分类： AI网关与API基础设施
llmgateway
通过统一API接口，跨多个提供商路由、管理和分析您的LLM请求。
项目最后更新：08/30/26
GitHub Stars
1.6K
Forks数量
176
贡献者数量
35
许可证
Other
收录理由
当生产环境同时接入多家大模型供应商时，各家SDK、密钥和账单往往各自为政，很快会变成一团乱麻。LLM Gateway 在应用与这些供应商之间架起一个统一入口，对外只暴露一个兼容 OpenAI 接口格式的端点——已经按 OpenAI 写好的应用，改一下 base URL 就能把请求转发给 Anthropic、Google Vertex AI 或其他服务商，业务代码几乎不用动。它把 API 密钥管理和限流都集中到一处，还会记录每次请求的 token 消耗和成本，月底对账时再也不用翻多个后台。项目支持用 Docker 自托管，数据留在自己的机器上；不想折腾运维的人也可以用官方托管版。对于受够了逐个供应商单独对接的团队，这类中间层能悄悄省下大量开发时间。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
OmniRoute
开源AI网关：一个端点，290+提供商（90+免费），500+模型，自动回退，令牌压缩，MCP/A2A，兼容Claude Code、Codex、Cursor、Cline、Copilot。
CLIProxyAPI
将 Antigravity、ChatGPT Codex、Claude Code、Grok Build 封装为兼容 OpenAI/Gemini/Claude/Codex 的 API 服务，让您通过 API 免费使用 Gemini 3.1 Pro、GPT 5.6 系列、Grok 4.5、Claude 模型。
kong
🦍 API 和 AI 网关
novu
面向代理和产品的开源通信基础设施
GPT_API_free
免费大模型API，支持免费调用GPT、DeepSeek等主流模型，免费额度10000点，每日刷新！另付费价格最低官方1-2折！