#55 · 主分类: AI网关与API基础设施

router

agentic-coding ai-gateway anthropic claude-code codex model-router openai-compatible

面向智能体系统的模型路由器。在<50ms内将每个提示路由到正确的模型。只需更改端点即可降低40-70%的成本。

项目最后更新:08/30/26

GitHub Stars

2.9K

Forks数量

82

贡献者数量

10

许可证

Other

收录理由

多数智能体团队最终会把 Claude Code、Codex、Cursor 或自研代理指向多家模型服务商,而最便宜的模型往往并不适合每一轮请求。Router 位于 Anthropic、OpenAI 和 Gemini 之前,它不是靠猜提示词文本,而是把每个动作嵌入后,对照聚类模型打分,再从你配置的服务商(包括 OpenRouter 和兼容 OpenAI 的端点)里,挑出能力达标且价格最低的那个把请求发过去。工具链也无需改动:把现有代理重指到本地端点即可,项目声称仅此一项就能省下 40% 到 70% 的开销。由于它直接讲各后端原生 API,而且提供商密钥留在你机器上,流量不必绕道第三方代理。担心运维负担的团队,可以先拿自托管栈、仪表盘和 OTLP 追踪,在真实智能体负载上跑一跑,再决定是否全面采用。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目