#8 · 主分类： LLM应用框架
new-api
统一AI模型枢纽，用于聚合与分发。支持将各种LLM交叉转换为OpenAI、Claude或Gemini兼容格式。个人和企业模型管理的集中式网关。
项目最后更新：08/29/26
GitHub Stars
46.7K
Forks数量
11.1K
贡献者数量
305
许可证
AGPL-3.0
收录理由
接过多家大模型服务的人，多半都经历过这样的折腾：供应商一改接口，客户端代码就得跟着重写。这个项目把问题收拢到一个网关里，你只管用一套格式发请求，它负责翻译成上游各家能懂的协议，底层模型怎么换，应用代码都不用动。它还把常被忽略的运维环节补上了——每个用户独立的密钥、令牌分组、用量统计、跨供应商的成本核算，全都集中在一个面板里。对想省事的小团队或个人来说，与其在五六个控制台之间来回切换，不如在这里看一张账单。自己部署模型服务也没问题，网关可以挡在前面，让外部和内部的模型都走同一套接口，管理起来清爽很多。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台