#25 · 主分类： AI网关与API基础设施
bifrost
最快的企业级AI网关（比LiteLLM快50倍），具备自适应负载均衡、集群模式、防护栏，支持1000+模型，且在5k RPS下开销小于100微秒。
项目最后更新：08/29/26
GitHub Stars
7.6K
Forks数量
1.1K
贡献者数量
164
许可证
Apache-2.0
收录理由
对于已经不再满足于让每个服务各自对接不同模型提供商的团队来说，Bifrost 解决的是一个很实际的问题：它把 OpenAI、Anthropic、Bedrock、Vertex 以及另外约二十家提供商的接口统一到一套兼容 OpenAI 的 API 后面，换模型时改一下配置就行，不用重写代码。同时，它把上线后迟早要面对的运维负担也一并扛了下来，内置了自动故障转移、自适应负载均衡、语义缓存和令牌/成本追踪，还提供护栏和集群模式应对更大规模的部署。配置和流量监控都可以通过自带的网页界面直观完成，不用去改配置文件；一条 npx 或 Docker 命令就能在一分钟内从零跑起一个可用的网关。如果你的团队在生产环境中同时使用多家模型提供商，又希望网关本身不拖慢请求路径，这个项目是我们见过相当务实的选择之一。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
OmniRoute
开源AI网关：一个端点，290+提供商（90+免费），500+模型，自动回退，令牌压缩，MCP/A2A，兼容Claude Code、Codex、Cursor、Cline、Copilot。
CLIProxyAPI
将 Antigravity、ChatGPT Codex、Claude Code、Grok Build 封装为兼容 OpenAI/Gemini/Claude/Codex 的 API 服务，让您通过 API 免费使用 Gemini 3.1 Pro、GPT 5.6 系列、Grok 4.5、Claude 模型。
kong
🦍 API 和 AI 网关
novu
面向代理和产品的开源通信基础设施
GPT_API_free
免费大模型API，支持免费调用GPT、DeepSeek等主流模型，免费额度10000点，每日刷新！另付费价格最低官方1-2折！