AI网关与API基础设施

提供集中式路由、安全、可观测性与管理能力的项目,面向AI/LLM API及MCP流量,通常以自托管或Kubernetes原生网关形式部署。

共 107 个项目

排名逻辑见 方法论 ;同类排名基于 GitHub 公开指标。

第 21–40 项,共 107 个

排名 项目 Stars Forks
21 modelcontextprotocol

Model Context Protocol 的规范与文档

9.1K 1.8K
22 higress

🤖 AI网关 | AI原生API网关

9.2K 1.3K
23 evolution-api

Evolution API 是一个开源的 WhatsApp 集成 API

9.5K 7.2K
24 AIClient2API

自托管代理,将仅客户端AI模型API转换为兼容OpenAI的网关,支持多个提供商和故障转移。

8.7K 1.4K
25 bifrost

最快的企业级AI网关(比LiteLLM快50倍),具备自适应负载均衡、集群模式、防护栏,支持1000+模型,且在5k RPS下开销小于100微秒。

7.6K 1.1K
26 manifest

将您的智能体与任何提供商连接 🦚

7.5K 504
27 registry

社区驱动的模型上下文协议(MCP)服务器注册服务。

7.2K 970
28 plano

Plano 是一个面向代理型应用的 AI 原生代理服务器和数据平面。提供智能 LLM 路由、可观测性、代理编排和安全护栏,让你专注于代理的核心逻辑。

7.0K 487
29 ClawRouter

面向自主智能体的原生LLM路由器。所有前沿模型统一在一个钱包后面,<1ms本地路由,通过x402在Base和Solana上进行USDC支付。

6.6K 647
30 pal-mcp-server

Claude Code / GeminiCLI / CodexCLI 的力量 + [Gemini / OpenAI / OpenRouter / Azure / Grok / Ollama / 自定义模型 / 以上所有] 融为一体。

11.7K 1.0K
31 fastapi_mcp

将你的FastAPI端点公开为模型上下文协议(MCP)工具,并支持认证!

12.0K 964
32 gpt-load

智能密钥轮询的多渠道 AI 代理。

6.3K 673
33 hey-api

👨‍🚀 将 API 规范转化为生产级 SDK、验证器、模拟数据等。20+ 插件,每周数百万 npm 下载量。被 Vercel、OpenCode、PayPal、AWS、Autodesk 等众多公司使用。

5.3K 428
34 semantic-router

一个可编程的混合模型路由器,用于异构LLM推理

5.4K 854
35 coai

企业级统一LLM网关,支持200+模型和35+提供商,内置计费与成本管理。

9.3K 1.2K
36 llama-swap

适用于任何本地 OpenAI/Anthropic 兼容服务器的可靠模型交换 - llama.cpp、vllm 等

5.5K 444
37 open-connector

开源认证网关,通过SDK、CLI、MCP、HTTP和OpenAPI将1000多个SaaS提供商连接到AI代理。

5.4K 461
38 agentgateway

下一代Agentic代理,用于AI智能体和MCP服务器

4.6K 781
39 axonhub

⚡️ 开源 AI 网关 — 使用任意 SDK 调用 100+ 大语言模型。内置故障转移、负载均衡、成本控制与端到端追踪。

5.1K 671
40 nasiko

面向AI Agents的开发者控制平面

5.6K 1.2K