LLM应用框架 · 开源 AI 场景榜单

排名	项目	Stars	Forks	更新	许可证
1	langchain 智能体工程平台。	145.2K	24.2K	08/29/26	MIT
2	dify 在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。	153.8K	24.3K	08/29/26	Other
3	headroom 压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。	68.0K	5.3K	08/29/26	Apache-2.0
4	litellm 最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]	57.6K	11.0K	08/29/26	Other
5	llama_index LlamaIndex 是领先的文档代理和 OCR 平台	51.9K	8.1K	08/29/26	MIT
6	pathway 用于流处理、实时分析、LLM管道和RAG的Python ETL框架。	62.4K	1.7K	08/29/26	Other
7	private-gpt 用于本地模型上私有AI应用的完整API层：RAG、技能、工具、MCP、文本转SQL等。兼容任何OpenAI兼容的推理服务器。	57.5K	7.6K	08/28/26	Apache-2.0
8	new-api 统一AI模型枢纽，用于聚合与分发。支持将各种LLM交叉转换为OpenAI、Claude或Gemini兼容格式。个人和企业模型管理的集中式网关。	46.7K	11.1K	08/29/26	AGPL-3.0
9	Fabric Fabric是一个开源框架，用于使用AI增强人类能力。它提供了一个模块化系统，通过众包的AI提示词集合来解决特定问题，可在任何地方使用。	43.6K	4.2K	08/29/26	MIT
10	langgraph 构建有韧性的智能体。	40.7K	6.9K	08/28/26	MIT
11	langextract 一个Python库，使用LLM从非结构化文本中提取结构化信息，具备精确源定位和交互式可视化。	38.5K	2.7K	08/27/26	Apache-2.0
12	prompt-optimizer AI提示优化器，助你编写更优提示，获得更佳AI结果。	33.7K	3.9K	08/26/26	Other
13	mastra Mastra 是用于 AI 驱动的应用程序和代理的现代 TypeScript 框架。	27.6K	2.7K	08/29/26	Other
14	semantic-kernel 将尖端的LLM技术快速轻松地集成到你的应用中	28.5K	4.7K	08/27/26	MIT
15	ai 面向 TypeScript 的 AI 工具包。由 Next.js 的创建者打造，AI SDK 是一个免费的开源库，用于构建 AI 驱动的应用程序和代理。	26.5K	5.0K	08/29/26	Other
16	fastmcp 🚀 快速、Python风格地构建MCP服务器和客户端。	27.4K	2.3K	08/29/26	Apache-2.0
17	haystack 开源AI编排框架，用于构建生产级LLM应用，支持模块化流水线、代理工作流，并显式控制检索、路由、记忆和生成。	26.4K	3.0K	08/29/26	Apache-2.0
18	toon 🎒 面向Token的对象表示法（TOON）——为LLM提示词设计的紧凑、人类可读的JSON数据序列化格式。提供TypeScript SDK、CLI及基准测试。	25.3K	1.1K	08/23/26	MIT
19	langchainjs 智能体工程平台	18.1K	3.3K	08/28/26	MIT
20	pydantic-ai Python 如何做 AI。智能体、实时语音、图像生成、嵌入。每个模型、每个接口，端到端类型化。	19.6K	2.6K	08/29/26	MIT

订阅更新