#220 · 主分类： 推理与本地部署
pinferencia
ai
artificial-intelligence
computer-vision
data-science
deep-learning
huggingface
inference
inference-server
machine-learning
model-deployment
model-serving
modelserver
nlp
paddlepaddle
predict
python
pytorch
serving
tensorflow
transformers
Python + 推理 - Python 模型部署库。有史以来最简单的模型推理服务器。
项目最后更新：02/14/23
GitHub Stars
543
Forks数量
83
贡献者数量
4
许可证
Apache-2.0
收录理由
Pinferencia 是一个轻量级的 Python 库，只需几行代码就能把训练好的模型包装成 REST API 和简洁的网页界面。无论是普通函数还是 PyTorch、TensorFlow、Hugging Face 的 pipeline，它都能直接托管，方便你在本地快速验证想法，之后还能借助其与 Kserve 兼容的接口平滑迁移到 Kubeflow、Triton 或 TorchServe 等更重的生产环境。这种兼容性很实在：想快速演示或跑小型内部服务时，不必一开始就背上沉重的部署框架。它算不上一个完整的平台，更像一条快捷的上手路径，适合那些希望从 notebook 到线上端点之间有清晰、可读路线的团队。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。