#84 · 主分类： LLM应用框架
any-llm
使用单一接口与LLM提供商通信
项目最后更新：08/26/26
GitHub Stars
2.2K
Forks数量
216
贡献者数量
62
许可证
Apache-2.0
收录理由
做后端服务的团队常有这样的体会：代码写死在某一家模型厂商的接口上，日后想换供应商，改动往往牵一发动全身。any-llm 把这种切换成本压得很低——它提供一个统一的 completion 调用，背后可以对接 OpenAI、Anthropic、Azure、Mistral、Ollama 等多家服务，换提供商时只需改一个 provider 名称并配置对应的环境变量，请求代码本身不用动。它刻意沿用了 LiteLLM 的约定，所以老项目里已有的 API 密钥和环境变量可以直接沿用，迁移起来不费劲。这个库面向的是想把模型调用嵌入到自己应用里的开发者，而不是给普通用户聊天用的。如果你正在项目早期，想保留多家供应商的选择余地，又不想为每家写一套客户端代码，它正好作为一层薄薄的抽象，日后想换再换。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台