TopOpenSourceAI
EN

#156 · 主分类： MLOps与评测

Deep-Learning-in-Production

angularjs c-plus-plus caffe2 convert-pytorch-models deep-learning deep-neural-networks flask keras model-serving mxnet production python pytorch react rest-api serving serving-pytorch-models tensorflow-models tesnorflow tutorial

分享关于在生产环境中部署深度学习模型的有用笔记和参考资料。

项目最后更新：11/09/24

在 GitHub 查看

GitHub Stars

4.4K

Forks数量

685

贡献者数量

3

许可证

Other

收录理由

模型训练完只是第一步，真正把它从笔记本里搬出来、跑成一个在线服务，中间常常要绕不少弯路。这个仓库相当于把前人踩过的坑整理成了索引，按实际部署流程来组织：从PyTorch模型转换开始，到接入C++或浏览器环境，再到用Flask或TorchServe搭出REST API，每个链接旁都附了一句简短点评，帮你分清哪些是官方文档、哪些是值得一读的社区帖子。它还把ONNX、TensorFlow Serving、LibTorch、无服务器函数等几种常见服务方案都列了出来，做内部项目选型时翻一翻会很有启发。整体定位更像是一份阅读指南，而不是一个开箱即用的部署框架，跟着链接能找到能跑通的示例代码，自己也不用额外维护一套运行时。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。

同类热门项目

unsloth

本地UI，用于运行和训练LLM及扩散模型。支持GGUF、MLX、Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、FLUX等。

#1

LlamaFactory

统一高效微调100+大语言模型与视觉语言模型（ACL 2024）

#2

airflow

Apache Airflow - 一个以编程方式编写、调度和监控工作流的平台

#3

langfuse

🪢 开源AI工程平台：LLM评估、可观测性、指标、提示管理、游乐场、数据集。与OpenTelemetry、LangChain、OpenAI SDK、LiteLLM等集成。🍊YC W23

#4

netron

神经网络、深度学习和机器学习模型的可视化工具

#5