#55 · 主分类: AI网关与API基础设施
router
面向智能体系统的模型路由器。在<50ms内将每个提示路由到正确的模型。只需更改端点即可降低40-70%的成本。
项目最后更新:08/30/26
GitHub Stars
2.9K
Forks数量
82
贡献者数量
10
许可证
Other
收录理由
多数智能体团队最终会把 Claude Code、Codex、Cursor 或自研代理指向多家模型服务商,而最便宜的模型往往并不适合每一轮请求。Router 位于 Anthropic、OpenAI 和 Gemini 之前,它不是靠猜提示词文本,而是把每个动作嵌入后,对照聚类模型打分,再从你配置的服务商(包括 OpenRouter 和兼容 OpenAI 的端点)里,挑出能力达标且价格最低的那个把请求发过去。工具链也无需改动:把现有代理重指到本地端点即可,项目声称仅此一项就能省下 40% 到 70% 的开销。由于它直接讲各后端原生 API,而且提供商密钥留在你机器上,流量不必绕道第三方代理。担心运维负担的团队,可以先拿自托管栈、仪表盘和 OTLP 追踪,在真实智能体负载上跑一跑,再决定是否全面采用。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
OmniRoute
开源AI网关:一个端点,290+提供商(90+免费),500+模型,自动回退,令牌压缩,MCP/A2A,兼容Claude Code、Codex、Cursor、Cline、Copilot。
CLIProxyAPI
将 Antigravity、ChatGPT Codex、Claude Code、Grok Build 封装为兼容 OpenAI/Gemini/Claude/Codex 的 API 服务,让您通过 API 免费使用 Gemini 3.1 Pro、GPT 5.6 系列、Grok 4.5、Claude 模型。
kong
🦍 API 和 AI 网关
novu
面向代理和产品的开源通信基础设施
GPT_API_free
免费大模型API,支持免费调用GPT、DeepSeek等主流模型,免费额度10000点,每日刷新!另付费价格最低官方1-2折!