AI网关与API基础设施
提供集中式路由、安全、可观测性与管理能力的项目,面向AI/LLM API及MCP流量,通常以自托管或Kubernetes原生网关形式部署。
共 107 个项目
排名逻辑见 方法论 ;同类排名基于 GitHub 公开指标。
| 排名 | 项目 | Stars | Forks | 更新 | 许可证 |
|---|---|---|---|---|---|
| 21 |
modelcontextprotocol
Model Context Protocol 的规范与文档 |
9.1K | 1.8K | 08/29/26 | Other |
| 22 |
higress
🤖 AI网关 | AI原生API网关 |
9.2K | 1.3K | 08/29/26 | Apache-2.0 |
| 23 |
evolution-api
Evolution API 是一个开源的 WhatsApp 集成 API |
9.5K | 7.2K | 07/14/26 | Other |
| 24 |
AIClient2API
自托管代理,将仅客户端AI模型API转换为兼容OpenAI的网关,支持多个提供商和故障转移。 |
8.7K | 1.4K | 08/29/26 | GPL-3.0 |
| 25 |
bifrost
最快的企业级AI网关(比LiteLLM快50倍),具备自适应负载均衡、集群模式、防护栏,支持1000+模型,且在5k RPS下开销小于100微秒。 |
7.6K | 1.1K | 08/29/26 | Apache-2.0 |
| 26 |
manifest
将您的智能体与任何提供商连接 🦚 |
7.5K | 504 | 08/28/26 | MIT |
| 27 |
registry
社区驱动的模型上下文协议(MCP)服务器注册服务。 |
7.2K | 970 | 08/26/26 | Other |
| 28 |
plano
Plano 是一个面向代理型应用的 AI 原生代理服务器和数据平面。提供智能 LLM 路由、可观测性、代理编排和安全护栏,让你专注于代理的核心逻辑。 |
7.0K | 487 | 08/19/26 | Apache-2.0 |
| 29 |
ClawRouter
面向自主智能体的原生LLM路由器。所有前沿模型统一在一个钱包后面,<1ms本地路由,通过x402在Base和Solana上进行USDC支付。 |
6.6K | 647 | 08/29/26 | MIT |
| 30 |
pal-mcp-server
Claude Code / GeminiCLI / CodexCLI 的力量 + [Gemini / OpenAI / OpenRouter / Azure / Grok / Ollama / 自定义模型 / 以上所有] 融为一体。 |
11.7K | 1.0K | 12/15/25 | Other |
| 31 |
fastapi_mcp
将你的FastAPI端点公开为模型上下文协议(MCP)工具,并支持认证! |
12.0K | 964 | 11/24/25 | MIT |
| 32 |
gpt-load
智能密钥轮询的多渠道 AI 代理。 |
6.3K | 673 | 08/29/26 | MIT |
| 33 |
hey-api
👨🚀 将 API 规范转化为生产级 SDK、验证器、模拟数据等。20+ 插件,每周数百万 npm 下载量。被 Vercel、OpenCode、PayPal、AWS、Autodesk 等众多公司使用。 |
5.3K | 428 | 08/24/26 | MIT |
| 34 |
semantic-router
一个可编程的混合模型路由器,用于异构LLM推理 |
5.4K | 854 | 08/29/26 | Apache-2.0 |
| 35 |
coai
企业级统一LLM网关,支持200+模型和35+提供商,内置计费与成本管理。 |
9.3K | 1.2K | 03/12/26 | Apache-2.0 |
| 36 |
llama-swap
适用于任何本地 OpenAI/Anthropic 兼容服务器的可靠模型交换 - llama.cpp、vllm 等 |
5.5K | 444 | 08/29/26 | MIT |
| 37 |
open-connector
开源认证网关,通过SDK、CLI、MCP、HTTP和OpenAPI将1000多个SaaS提供商连接到AI代理。 |
5.4K | 461 | 08/29/26 | Apache-2.0 |
| 38 |
agentgateway
下一代Agentic代理,用于AI智能体和MCP服务器 |
4.6K | 781 | 08/27/26 | Apache-2.0 |
| 39 |
axonhub
⚡️ 开源 AI 网关 — 使用任意 SDK 调用 100+ 大语言模型。内置故障转移、负载均衡、成本控制与端到端追踪。 |
5.1K | 671 | 08/30/26 | Other |
| 40 |
nasiko
面向AI Agents的开发者控制平面 |
5.6K | 1.2K | 08/27/26 | Other |