#90 · 主分类： MLOps与评测
openlit
AI 工程开源平台：原生 OpenTelemetry 的 LLM 可观测性、GPU 监控、护栏、评估、提示管理、保险库、游乐场。🚀💻 集成 50+ LLM 提供商、向量数据库、代理框架和 GPU。
项目最后更新：08/29/26
GitHub Stars
2.7K
Forks数量
366
贡献者数量
106
许可证
Apache-2.0
收录理由
做LLM功能开发的团队，常常要为追踪、成本、评估和提示词管理分别部署好几套工具，来回切换很麻烦。OpenLIT把这些任务收进一个可自托管的平台，从Python、TypeScript或Go服务里发出标准的OpenTelemetry追踪数据，统一呈现在一块仪表板上。它接入了五十多个LLM提供商、向量数据库和智能体框架，对技术栈混杂的团队来说，比绑死某家厂商的SDK更省心。内置的规则引擎和十一种自动化评估类型能覆盖幻觉、有害内容和事实一致性检查，不需要另搭一套评判流程；自带的Vault则把API密钥集中存放。对于没有专职平台工程师的小团队，这套组合算是把可观测性、评估和提示词管理一次性跑起来的务实选择。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
unsloth
本地UI，用于运行和训练LLM及扩散模型。支持GGUF、MLX、Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、FLUX等。
LlamaFactory
统一高效微调100+大语言模型与视觉语言模型（ACL 2024）
airflow
Apache Airflow - 一个以编程方式编写、调度和监控工作流的平台
langfuse
🪢 开源AI工程平台：LLM评估、可观测性、指标、提示管理、游乐场、数据集。与OpenTelemetry、LangChain、OpenAI SDK、LiteLLM等集成。🍊YC W23
netron
神经网络、深度学习和机器学习模型的可视化工具