LLM应用框架
构建 LLM 应用的框架与工具链,LangChain 同类生态。
共 148 个项目
排名逻辑见 方法论 ;同类排名基于 GitHub 公开指标。
| 排名 | 项目 | Stars | Forks | 更新 | 许可证 |
|---|---|---|---|---|---|
| 61 |
rust-sdk
Model Context Protocol 的官方 Rust SDK |
3.9K | 626 | 08/29/26 | Other |
| 62 |
csharp-sdk
Model Context Protocol 服务器和客户端的官方 C# SDK。与微软合作维护。 |
4.5K | 797 | 08/27/26 | Other |
| 63 |
atmosphere
面向JVM的可移植AI代理运行时。一个@Agent类即可在Spring AI、LangChain4j、Anthropic或9个其他框架之上运行,统一由SPI驱动。支持令牌流式传输、工具调用、人工审批,并通过WebSocket、SSE、gRPC或WebTransport/HTTP3进行治理。兼容MCP、A2A和AG-UI协议。 |
3.8K | 760 | 08/30/26 | Apache-2.0 |
| 64 |
h2o-llmstudio
H2O LLM Studio - 用于微调LLM的框架和无代码GUI。文档:https://docs.h2o.ai/h2o-llmstudio/ |
5.2K | 556 | 08/18/26 | Apache-2.0 |
| 65 |
embabel-agent
面向JVM的Agent框架。发音为Em-BAY-bel /ɛmˈbeɪbəl/ |
4.4K | 430 | 08/29/26 | Apache-2.0 |
| 66 |
langroid
利用大语言模型进行多智能体编程 |
4.1K | 395 | 08/29/26 | MIT |
| 67 |
GenerativeAIExamples
为加速基础设施和微服务架构优化的生成式AI参考工作流。 |
4.2K | 1.1K | 08/20/26 | Apache-2.0 |
| 68 |
LazyLLM
构建多智能体LLM应用的最简单、最懒的方式。 |
3.9K | 408 | 08/27/26 | Apache-2.0 |
| 69 |
java-sdk
Model Context Protocol 服务器和客户端的官方 Java SDK,与 Spring AI 合作维护。 |
3.7K | 1.1K | 08/28/26 | MIT |
| 70 |
LLamaSharp
一个C#/.NET库,用于在本地设备上高效运行LLM(🦙LLaMA/LLaVA)。 |
3.8K | 506 | 08/24/26 | MIT |
| 71 |
cascadeflow
用于AI代理的级联运行时。在代理循环内优化成本、延迟、质量和策略决策。 |
4.0K | 911 | 08/27/26 | MIT |
| 72 |
fastmcp
用于构建 MCP 服务器的 TypeScript 框架。 |
3.3K | 305 | 08/29/26 | MIT |
| 73 |
ai
🤖 类型安全、与提供商无关的 TypeScript AI SDK,支持流式聊天、工具调用、智能体及跨 OpenAI、Anthropic、Gemini、React、Vue、Svelte 和 Solid 的多模态应用。 |
3.0K | 312 | 08/29/26 | MIT |
| 74 |
Gemini-API
✨ Google Gemini 网页应用的逆向工程 Python API |
3.5K | 548 | 08/27/26 | AGPL-3.0 |
| 75 |
docetl
一个用于智能体驱动的LLM数据处理和ETL的系统 |
4.1K | 438 | 08/10/26 | MIT |
| 76 |
ax
这几乎就是 TypeScript 的“官方” DSPy 框架。 |
2.9K | 191 | 08/30/26 | Apache-2.0 |
| 77 |
llm-workflow-engine
为LLMs设计的强大CLI和工作流管理器(核心包) |
3.7K | 468 | 08/14/26 | MIT |
| 78 |
erupt
何必写那么多代码,几个注解就能搞定——注解驱动的Java框架,一个类即可成为完整管理员,现在还内置了AI工具集。 |
2.8K | 512 | 08/29/26 | Apache-2.0 |
| 79 |
nitrostack
用于构建、测试和部署生产就绪的MCP服务器和AI原生应用的全栈TypeScript框架。 |
2.5K | 1.4K | 08/28/26 | Apache-2.0 |
| 80 |
burr
构建做出决策的应用(聊天机器人、智能体、模拟等)。在您自己的基础设施上监控、追踪、持久化和执行。 |
2.5K | 189 | 08/29/26 | Apache-2.0 |