TopOpenSourceAI
EN

#138 · 主分类： LLM应用框架

superduper

ai chatbot data database distributed-ml inference llm-inference llm-serving llmops ml mlops mongodb pretrained-models python pytorch rag semantic-search torch transformers vector-search

Superduper：用于构建自定义AI应用和代理的端到端框架。

项目最后更新：09/01/25

在 GitHub 查看 访问官网

GitHub Stars

5.3K

Forks数量

544

贡献者数量

51

许可证

Apache-2.0

收录理由

Superduper 把 AI 逻辑直接放到数据所在的位置，省去单独搭建向量库和模型服务层的麻烦。你可以在 MongoDB、SQL 或 Snowflake 里直接跑向量嵌入、相似度检索、RAG 生成，甚至微调模型。它提供声明式 API 和现成模板，一个小团队不用自己拼装底层管道，就能快速做出 RAG 应用或对接数据库的聊天机器人，PyTorch 和 Hugging Face 模型开箱即用。框架采用组件化组合方式，不强制绑定某种架构，适合需要可复用、灵活 AI 应用的团队。如果你的业务数据已经存在托管数据库里，在引入更重的 ML 平台之前，这是个很实在的选择。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。

同类热门项目

langchain

智能体工程平台。

#1

dify

在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。

#2

headroom

压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。

#3

litellm

最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

#4

llama_index

LlamaIndex 是领先的文档代理和 OCR 平台

#5