GPU 计算框架

发现可自托管的开源GPU计算框架,用于在自有硬件上加速AI训练与推理。

共 7 个项目

排名逻辑见 方法论 ;同类排名基于 GitHub 公开指标。

第 1–7 项,共 7 个

排名 项目 Stars Forks
1 kompute

基于Vulkan的通用GPU计算框架,支持数千种跨厂商显卡(AMD、高通、NVIDIA等)。极速、支持移动端、异步,并针对高级GPU数据处理场景优化。由Linux基金会支持。

2.6K 198
2 lupine

LUPINE 是一种基于 IP 的 GPU 桥接技术,可将远程 GPU 挂载到仅 CPU 的机器上。

2.4K 134
3 dstack

供应商无关的编排,支持训练、推理和代理工作负载,适用于 NVIDIA、AMD、TPU、Tenstorrent,可在云、Kubernetes 和裸金属上运行。

2.2K 252
4 MetalPetal

基于Metal构建的GPU加速图像和视频处理框架。

2.2K 288
5 tt-metal

:metal: TT-NN 算子库,以及 TT-Metalium 低级内核编程模型。

1.6K 616
6 blazingsql

BlazingSQL 是一个轻量级的、GPU加速的Python SQL引擎,基于RAPIDS cuDF构建。

2.0K 183
7 uccl

UCCL是一个高效的GPU通信库,涵盖集合通信、P2P(如KV缓存传输、RL权重传输)和EP(如GPU驱动)等功能。

1.5K 171