#163 · 主分类: 推理与本地部署

CodeProject.AI-Server

artificial-intelligence generative-ai mlops object-detection onnx python pytorch

CodeProject.AI Server 是一个独立的服务,软件开发人员可以将其包含在应用程序中,并与应用程序一起分发,以利用人工智能增强其应用的功能。

项目最后更新:07/14/25

GitHub Stars

977

Forks数量

231

贡献者数量

12

许可证

Other

收录理由

开发者在用户机器上部署 CodeProject.AI,通过 localhost 上的 REST API 调用,而不是为每个功能接一个云端点。目标检测、人脸识别、场景分析、文本摘要乃至生成式任务都在本地运行,数据不出设备。对桌面应用、自助终端和物联网场景来说,这种离线可靠性和隐私保护比托管式 API 更实际,而且模型服务在 Windows、macOS、Linux 和树莓派上保持一致。既可以作为独立服务运行,也能放进 Docker 容器,小团队不需要维护独立的机器学习平台就能获得可用的 AI 层,附带的预训练模块在换用自定义模型之前是个不错的起点。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目