AI数据基础设施与存储

面向AI训练与推理高吞吐场景的开源存储引擎、数据编织层及基础设施,覆盖检查点保存、数据加载与KV缓存等关键环节。

共 42 个项目

排名逻辑见 方法论 ;同类排名基于 GitHub 公开指标。

第 1–20 项,共 42 个

排名 项目 Stars Forks
1 ClickHouse

ClickHouse® 是一个实时分析数据库管理系统

49.5K 8.9K
2 simdjson

每秒解析数GB的JSON:被Facebook/Meta Velox、Node.js运行时、ClickHouse、WatermelonDB、Apache Doris、Milvus、StarRocks使用

24.2K 1.3K
3 gun

开源网络安全协议,用于同步去中心化图数据。

19.1K 1.2K
4 emqx

为AI、IoT、IIoT和联网车辆提供最可扩展且可靠的MQTT broker

16.7K 2.5K
5 server

MariaDB服务器是MySQL服务器的社区开发分支。由原MySQL团队核心成员发起,MariaDB积极与外部开发者合作,提供业界功能最丰富、稳定且许可合理的开源SQL服务器。

8.2K 2.1K
6 seatunnel

SeaTunnel是一个多模态、高性能、分布式的大规模数据集成工具。

9.6K 2.4K
7 gel

Gel 为 Postgres 注入强大动力,提供现代数据模型、图查询、Auth 与 AI 解决方案等更多功能。

14.2K 452
8 databend

数据代理就绪仓库:一站式分析、搜索、AI、Python沙箱——从零重建,基于你的S3的统一架构。

9.4K 895
9 risingwave

面向智能体AI的事件流平台。持续实时、大规模地摄取、转换和提供事件流。

9.3K 825
10 crawlee-python

用于网页抓取和浏览器自动化的Python库,为AI、LLM、RAG和GPT提取数据。

9.5K 800
11 3FS

一个高性能分布式文件系统,旨在应对AI训练和推理工作负载的挑战。

10.2K 1.1K
12 deeplake

Deeplake是面向智能体的AI数据运行时。它提供无服务器的Postgres与多模态数据湖,实现可扩展的检索和训练。

9.2K 724
13 lance

面向多模态AI的开放湖仓格式。两行代码即可从Parquet转换,实现100倍更快的随机访问、向量索引和数据版本控制。兼容Pandas、DuckDB、Polars、Pyarrow和PyTorch,更多集成即将推出。

7.0K 826
14 unstract

基于LLM的非结构化数据提取 — 专为API部署与ETL管道工作流设计

7.2K 709
15 materialize

应用和AI代理的实时数据层。仅用SQL即可创建业务的最新视图。

6.4K 511
16 Daft

面向AI和多模态工作负载的高性能数据引擎。可处理任意规模的图像、音频、视频和结构化数据。

5.7K 549
17 datasets

TFDS是一个数据集集合,可直接用于TensorFlow、Jax等。

4.6K 1.6K
18 crate

CrateDB是一个分布式、可扩展的SQL数据库,用于近实时地存储和分析海量数据,即使面对复杂查询也能胜任。它兼容PostgreSQL,并基于Lucene构建。

4.4K 612
19 memgraph

高性能开源内存图数据库,用于GraphRAG、AI记忆、智能体AI和实时图分析。兼容Cypher,使用C++构建。

4.4K 261
20 vortex

一个可扩展的、最先进的列式压缩框架,也是最快的开源列式文件格式。原属 @spiraldb,现为 LFAI&Data 的孵化阶段项目,隶属于 Linux 基金会。

3.2K 214
< 上一页
/ 3
下一页 >