#3 · 主分类: GPU 计算框架

dstack

agent-skills agentic-orchestration amd cloud containers docker fine-tuning gpu inference k8s kubernetes llms machine-learning nvidia orchestration python slurm training

供应商无关的编排,支持训练、推理和代理工作负载,适用于 NVIDIA、AMD、TPU、Tenstorrent,可在云、Kubernetes 和裸金属上运行。

项目最后更新:08/28/26

GitHub Stars

2.2K

Forks数量

252

贡献者数量

74

许可证

MPL-2.0

收录理由

如果你经常在多个GPU云厂商之间切换,或者需要把租来的算力和自建机房设备混在一起用,dstack值得花点时间看看。它省去了为每家云商单独写脚本的麻烦:只要在YAML文件里描述好训练任务、开发环境或推理负载,dstack就会自动去匹配并拉起合适的实例,跑完任务后还能顺手清理资源。由于编排层位于硬件之上,同一份配置可以直接跑在NVIDIA、AMD、TPU或Tenstorrent上,不需要改动任何东西。对于多节点场景,它也能借助torchrun和Ray处理分布式训练,省掉了小团队通常要自己拼凑的一大堆基础设施胶水代码。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目