#136 · 主分类: MLOps与评测
BharatMLStack
BharatMLStack 是一个开源的端到端机器学习基础设施栈,由 Meesho 构建,用于支持 Bharat 规模下的实时和批量 ML 工作负载。
项目最后更新:08/12/26
GitHub Stars
707
Forks数量
84
贡献者数量
37
许可证
Apache-2.0
收录理由
BharatMLStack 是 Meesho 为支撑自身大规模电商业务而打造的一套机器学习基础设施,以 Kubernetes 原生组件的形式提供在线特征、模型推理和向量检索能力,而不是一个单体系统。它的在线特征存储能在 10 毫秒内返回特征,Inferflow 负责编排基于 DAG 的推理流水线,Skye 则提供可插拔后端的向量相似度搜索,这些组件由控制平面统一协调,并通过 Web 控制台管理特征注册和审批流程。由于它不绑定特定云厂商,还提供了 Go 和 Python 的 SDK 以及 Docker Compose 快速启动方式,你可以在本地先跑起来试试,再决定是否全面部署。对于不想把多个服务拼凑起来、又需要低延迟特征服务和规模化推理的团队来说,这是一个很实用的参考起点。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
unsloth
本地UI,用于运行和训练LLM及扩散模型。支持GGUF、MLX、Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、FLUX等。
LlamaFactory
统一高效微调100+大语言模型与视觉语言模型(ACL 2024)
airflow
Apache Airflow - 一个以编程方式编写、调度和监控工作流的平台
langfuse
🪢 开源AI工程平台:LLM评估、可观测性、指标、提示管理、游乐场、数据集。与OpenTelemetry、LangChain、OpenAI SDK、LiteLLM等集成。🍊YC W23
netron
神经网络、深度学习和机器学习模型的可视化工具