#22 · 主分类： AI网关与API基础设施
higress
🤖 AI网关 | AI原生API网关
项目最后更新：08/29/26
GitHub Stars
9.2K
Forks数量
1.3K
贡献者数量
196
许可证
Apache-2.0
收录理由
运行大模型服务时，通常要对接多家模型供应商，国内外都有，每家请求格式还各不相同。Higress 作为基于 Istio 和 Envoy 的云原生 API 网关，挡在这些供应商前面，为你的服务统一暴露一套协议，省去硬编码各家调用细节的麻烦。除了常规代理，它还提供模型级别的负载均衡与故障回退、基于 token 的流量控制、针对 AI 负载优化的可观测性，以及响应缓存——这些都是在模型真正上线后才会浮现的实用问题。网关行为通过用 Go、Rust 或 JavaScript 编写的 Wasm 插件来定义，你可以在不重新编译网关的情况下调整流式处理和安全管理。同时它也能充当通用的 Kubernetes 入口和微服务网关，即使你的 AI 流量模式不断变化，它依然保持实用。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
OmniRoute
开源AI网关：一个端点，290+提供商（90+免费），500+模型，自动回退，令牌压缩，MCP/A2A，兼容Claude Code、Codex、Cursor、Cline、Copilot。
CLIProxyAPI
将 Antigravity、ChatGPT Codex、Claude Code、Grok Build 封装为兼容 OpenAI/Gemini/Claude/Codex 的 API 服务，让您通过 API 免费使用 Gemini 3.1 Pro、GPT 5.6 系列、Grok 4.5、Claude 模型。
kong
🦍 API 和 AI 网关
novu
面向代理和产品的开源通信基础设施
GPT_API_free
免费大模型API，支持免费调用GPT、DeepSeek等主流模型，免费额度10000点，每日刷新！另付费价格最低官方1-2折！