AI数据基础设施与存储

面向AI训练与推理高吞吐场景的开源存储引擎、数据编织层及基础设施,覆盖检查点保存、数据加载与KV缓存等关键环节。

共 42 个项目

排名逻辑见 方法论 ;同类排名基于 GitHub 公开指标。

第 21–40 项,共 42 个

排名 项目 Stars Forks
21 datachain

非结构化数据的上下文层:基于S3、GCS、Azure的类型化、版本化数据集

2.8K 156
22 supabase-py

Supabase 的 Python 客户端。从 Flask、Django、FastAPI 查询 Postgres。Python 用户认证、安全策略、边缘函数、文件存储和实时数据流。适合新手入门。

2.6K 540
23 spider

为AI代理和LLM获取网络数据 - 使用Rust实现快速、高效、可靠

2.7K 284
24 openlake

OpenLake 是一个高性能存储引擎,用于高效的LLM推理和GPU训练。

2.3K 417
25 OpenMLDB

OpenMLDB 是一个开源机器学习数据库,提供特征平台计算,为训练和推理提供一致的特征。

1.7K 332
26 alluxio

Alluxio,用于云端分析和机器学习的数据编排

7.2K 2.9K
27 infinispan

Infinispan 是一个开源数据网格平台,也是一个高度可扩展的 NoSQL 云数据存储。

1.3K 652
28 rocketmq-rust

🚀Apache RocketMQ 用 Rust 构建🦀。更快、更安全、内存占用更低。⭐ 为我们的工作点星标支持❤️!

1.5K 245
29 pixeltable

AI数据应用的统一多模态后端

1.6K 219
30 datalevin

一个简单、快速且通用的Datalog数据库

1.5K 85
31 database-build

浏览器内 Postgres 沙箱,带 AI 辅助(原名 postgres.new)

3.0K 274
32 nocturne_memory

一个轻量级、可回滚、可视化的MCP代理长期记忆服务器。告别向量RAG和失忆。为您的AI提供跨任何模型、会话或工具的持久化、图状结构化记忆。可直接替代OpenClaw。

1.3K 166
33 duckle

开源 ETL/ELT,可部署在自己的服务器或云端。基于 DuckDB:无代码/低代码可视化管道或 SQL,385 个组件,dbt、CDC、数据质量、反向 ETL、血缘、面向 AI 代理的 MCP。无厂商云,无按行计费。

1.3K 93
34 ai-data-extraction

从 cursor、codex、claude-code、windsurf 和 trae 中提取你的所有个人数据历史

1.3K 106
35 dataclaw

将代理聊天历史发布为Huggingface数据集的代理工具。

2.1K 233
36 docarray

表示、发送、存储和搜索多模态数据。

3.1K 243
37 fugue

分布式计算的统一接口。Fugue 无需重写即可在 Spark、Dask 和 Ray 上执行 SQL、Python、Pandas 和 Polars 代码。

2.2K 103
38 webdataset

一个高性能的基于Python的I/O系统,用于大型(和小型)深度学习问题,对PyTorch有强力支持。

3.2K 234
39 postgresml

为ML/AI应用提供GPU加速的Postgres。

6.8K 364
40 img2dataset

轻松将大量图片URL转换为图片数据集。可在单台机器上20小时内下载、调整大小并打包1亿个URL。

4.4K 375