LLM应用框架

构建 LLM 应用的框架与工具链,LangChain 同类生态。

共 148 个项目

排名逻辑见 方法论 ;同类排名基于 GitHub 公开指标。

第 61–80 项,共 148 个

排名 项目 Stars Forks
61 rust-sdk

Model Context Protocol 的官方 Rust SDK

3.9K 626
62 csharp-sdk

Model Context Protocol 服务器和客户端的官方 C# SDK。与微软合作维护。

4.5K 797
63 atmosphere

面向JVM的可移植AI代理运行时。一个@Agent类即可在Spring AI、LangChain4j、Anthropic或9个其他框架之上运行,统一由SPI驱动。支持令牌流式传输、工具调用、人工审批,并通过WebSocket、SSE、gRPC或WebTransport/HTTP3进行治理。兼容MCP、A2A和AG-UI协议。

3.8K 760
64 h2o-llmstudio

H2O LLM Studio - 用于微调LLM的框架和无代码GUI。文档:https://docs.h2o.ai/h2o-llmstudio/

5.2K 556
65 embabel-agent

面向JVM的Agent框架。发音为Em-BAY-bel /ɛmˈbeɪbəl/

4.4K 430
66 langroid

利用大语言模型进行多智能体编程

4.1K 395
67 GenerativeAIExamples

为加速基础设施和微服务架构优化的生成式AI参考工作流。

4.2K 1.1K
68 LazyLLM

构建多智能体LLM应用的最简单、最懒的方式。

3.9K 408
69 java-sdk

Model Context Protocol 服务器和客户端的官方 Java SDK,与 Spring AI 合作维护。

3.7K 1.1K
70 LLamaSharp

一个C#/.NET库,用于在本地设备上高效运行LLM(🦙LLaMA/LLaVA)。

3.8K 506
71 cascadeflow

用于AI代理的级联运行时。在代理循环内优化成本、延迟、质量和策略决策。

4.0K 911
72 fastmcp

用于构建 MCP 服务器的 TypeScript 框架。

3.3K 305
73 ai

🤖 类型安全、与提供商无关的 TypeScript AI SDK,支持流式聊天、工具调用、智能体及跨 OpenAI、Anthropic、Gemini、React、Vue、Svelte 和 Solid 的多模态应用。

3.0K 312
74 Gemini-API

✨ Google Gemini 网页应用的逆向工程 Python API

3.5K 548
75 docetl

一个用于智能体驱动的LLM数据处理和ETL的系统

4.1K 438
76 ax

这几乎就是 TypeScript 的“官方” DSPy 框架。

2.9K 191
77 llm-workflow-engine

为LLMs设计的强大CLI和工作流管理器(核心包)

3.7K 468
78 erupt

何必写那么多代码,几个注解就能搞定——注解驱动的Java框架,一个类即可成为完整管理员,现在还内置了AI工具集。

2.8K 512
79 nitrostack

用于构建、测试和部署生产就绪的MCP服务器和AI原生应用的全栈TypeScript框架。

2.5K 1.4K
80 burr

构建做出决策的应用(聊天机器人、智能体、模拟等)。在您自己的基础设施上监控、追踪、持久化和执行。

2.5K 189