#4 · 主分类： MLOps与评测
langfuse
🪢 开源AI工程平台：LLM评估、可观测性、指标、提示管理、游乐场、数据集。与OpenTelemetry、LangChain、OpenAI SDK、LiteLLM等集成。🍊YC W23
项目最后更新：08/29/26
GitHub Stars
33.9K
Forks数量
3.7K
贡献者数量
203
许可证
Other
收录理由
大模型功能上线后，真正棘手的是排查某个回答为何出错。Langfuse 提供了一个可自托管的平台，能捕获来自 OpenAI、LangChain、LlamaIndex、LiteLLM 等框架的追踪数据，支持逐条调用或整个用户会话的深入分析。提示词版本和配置集中管理，配合客户端缓存，迭代提示词不会增加额外延迟。评测方面涵盖 LLM 作为裁判、代码检查、人工标注和用户反馈等多种方式。你还能构建数据集用于测试集，在部署前运行结构化实验；遇到糟糕的追踪记录，可直接跳转到 playground 调整提示词。对于不想按席位支付 SaaS 费用的小团队，这是一个实用选择，支持自托管，也能跑在 Kubernetes 和主流云平台上。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
unsloth
本地UI，用于运行和训练LLM及扩散模型。支持GGUF、MLX、Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、FLUX等。
LlamaFactory
统一高效微调100+大语言模型与视觉语言模型（ACL 2024）
airflow
Apache Airflow - 一个以编程方式编写、调度和监控工作流的平台
netron
神经网络、深度学习和机器学习模型的可视化工具
mlflow
面向代理、LLM和机器学习模型的开源AI工程平台。MLflow帮助各种规模的团队调试、评估、监控和优化生产级AI应用，同时控制成本并管理对模型和数据的访问。