#48 · 主分类： LLM应用框架
rocketride-server
高性能AI流水线引擎，C++核心，50+节点，支持多模型/向量数据库，集成IDE，用于构建和部署LLM工作流。
项目最后更新：08/29/26
GitHub Stars
7.4K
Forks数量
2.8K
贡献者数量
59
许可证
MIT
收录理由
RocketRide面向那些想把大模型调用、向量库和自定义逻辑组合成可复用工作流的团队，而且它不只是画个流程图，而是真正把结果跑起来。管道定义是纯JSON格式，同一个定义既能在笔记本上运行，也能部署到自有服务器或云主机。节点覆盖从LLM、嵌入调用到分块、OCR等环节，并且允许用Python自行扩展。C++核心引擎在高负载下依然稳定，这对那些原型在真实数据量面前卡顿的开发者尤其有价值。它还提供TypeScript和Python SDK，外加MCP服务器，能把同一套管道嵌入原生应用，或作为工具暴露给AI助手。整个系统运行在自己的基础设施上，没有厂商锁定，也不存在单独的企业版，这对小团队来说相当实在。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台