#178 · 主分类: 推理与本地部署
budgetml
以较低成本部署ML推理服务,代码不超过10行。
项目最后更新:02/12/24
GitHub Stars
1.3K
Forks数量
65
贡献者数量
5
许可证
Apache-2.0
收录理由
很多做机器学习的人都会卡在一个问题上:手头只有一个模型,想快速提供一个带HTTPS加密的接口,却不想为此去啃Docker、Kubernetes和TLS证书这些运维知识。BudgetML把这些杂事打包进一个简短的启动命令,用FastAPI搭好服务框架,自动配好Let's Encrypt证书和OAuth2认证,还能部署到GCP的抢占式实例上,成本比普通实例低约80%。它能把一个Python预测类直接变成带Swagger文档的API,几分钟就能跑起来。作者自己也坦白,这不是为完整生产环境准备的,而且仓库近期维护不活跃,更适合当作参考或起点。对在GCP上做演示、内部工具或快速原型的人来说,它的思路和代码仍有不少可借鉴之处。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。