#178 · 主分类: 推理与本地部署

budgetml

api data-science deployment fastapi inference machine-learning mlops

以较低成本部署ML推理服务,代码不超过10行。

项目最后更新:02/12/24

GitHub Stars

1.3K

Forks数量

65

贡献者数量

5

许可证

Apache-2.0

收录理由

很多做机器学习的人都会卡在一个问题上:手头只有一个模型,想快速提供一个带HTTPS加密的接口,却不想为此去啃Docker、Kubernetes和TLS证书这些运维知识。BudgetML把这些杂事打包进一个简短的启动命令,用FastAPI搭好服务框架,自动配好Let's Encrypt证书和OAuth2认证,还能部署到GCP的抢占式实例上,成本比普通实例低约80%。它能把一个Python预测类直接变成带Swagger文档的API,几分钟就能跑起来。作者自己也坦白,这不是为完整生产环境准备的,而且仓库近期维护不活跃,更适合当作参考或起点。对在GCP上做演示、内部工具或快速原型的人来说,它的思路和代码仍有不少可借鉴之处。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目