#136 · 主分类: MLOps与评测

langtest

ai-safety ai-testing artificial-intelligence benchmark-framework benchmarks ethics-in-ai large-language-models llm llm-as-evaluator llm-evaluation-toolkit llm-test llm-testing ml-safety ml-testing mlops model-assessment nlp responsible-ai trustworthy-ai

提供安全有效的语言模型

项目最后更新:08/28/26

GitHub Stars

559

Forks数量

52

贡献者数量

17

许可证

Apache-2.0

收录理由

LangTest 是一个面向 NLP 与 LLM 项目的测试框架,能在模型问题暴露给最终用户之前就将其拦截。只需一行代码,就能生成并运行数十种测试,覆盖鲁棒性、偏见、代表性、公平性和准确性等维度,适用于命名实体识别、翻译、文本分类、问答和摘要等任务。它既支持经典的 Hugging Face 和 Spark NLP 流水线,也能对 OpenAI、Cohere、Azure OpenAI 等托管的模型进行毒性、事实性、谄媚以及临床或法律支持方面的检测。使用流程很直接:创建 Harness、生成测试用例、运行、查看报告,这样就能把评估自然地嵌入日常开发循环,而不是当作一次性的审计。如果你负责模型质量,想在发布前用具体手段检查偏见或故障模式,这个工具提供了一个结构化的起点。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目