#169 · 主分类： MLOps与评测
langkit
🔍 LangKit：用于监控大型语言模型（LLM）的开源工具包。📚 从提示和响应中提取信号，确保安全与保障。🛡️ 功能包括文本质量、相关性指标和情感分析。📊 一个全面的LLM可观测性工具。👀
项目最后更新：11/22/24
GitHub Stars
995
Forks数量
74
贡献者数量
12
许可证
Apache-2.0
收录理由
把大模型放进生产环境，最让人心里没底的是：真实用户开始发提示词之后，模型到底在生成什么？很多团队直到出了问题才去翻聊天记录，既低效又容易漏掉关键信号。LangKit直接把这些原始文本变成可量化的指标——可读性、复杂度、与提示词的相关性、情感和毒性水平，同时还能识别提示注入、越狱尝试、幻觉和拒绝回答。它和whylogs无缝配合，不需要单独搭一套监控系统，就能在已有的数据日志流水线里捕获这些文本信号。对于想在功能大规模上线前建立安全护栏、摸清模型行为底数的团队来说，这款工具提供了可追踪、可告警、可对比的数值输出，而不是靠人眼逐个检查对话日志。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
unsloth
本地UI，用于运行和训练LLM及扩散模型。支持GGUF、MLX、Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、FLUX等。
LlamaFactory
统一高效微调100+大语言模型与视觉语言模型（ACL 2024）
airflow
Apache Airflow - 一个以编程方式编写、调度和监控工作流的平台
langfuse
🪢 开源AI工程平台：LLM评估、可观测性、指标、提示管理、游乐场、数据集。与OpenTelemetry、LangChain、OpenAI SDK、LiteLLM等集成。🍊YC W23
netron
神经网络、深度学习和机器学习模型的可视化工具