TopOpenSourceAI
EN

#144 · 主分类： MLOps与评测

xai

ai artificial-intelligence bias bias-evaluation downsampling evaluation explainability explainable-ai explainable-ml feature-importance imbalance interpretability machine-learning machine-learning-explainability ml upsampling xai xai-library

XAI - 机器学习可解释性工具箱

项目最后更新：11/29/25

在 GitHub 查看 访问官网

GitHub Stars

1.3K

Forks数量

187

贡献者数量

3

许可证

MIT

收录理由

在信贷、医疗等强监管场景里，团队往往需要快速定位模型在受保护群体上的表现差异。这个库把常用工具打包成一个可直接导入的包：能识别受保护列上的类别不均衡，用上采样或下采样重平衡数据，计算排列特征重要性，并按人口分组绘制ROC、精确率-召回率和指标图。概率阈值工具尤其适合思考人工复核环节在哪里值得介入，而不是盲目依赖单一阈值。它遵循数据分析、模型评估、生产监控的三段式流程，不需要重型平台就能融入现有工作流。数据科学家和机器学习工程师如果希望在项目早期排查偏差或解释性问题，自带的快速上手示例和内置人口普查数据集会降低尝试门槛，方便在自己的数据上套用这些方法。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。

同类热门项目

unsloth

本地UI，用于运行和训练LLM及扩散模型。支持GGUF、MLX、Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、FLUX等。

#1

LlamaFactory

统一高效微调100+大语言模型与视觉语言模型（ACL 2024）

#2

airflow

Apache Airflow - 一个以编程方式编写、调度和监控工作流的平台

#3

langfuse

🪢 开源AI工程平台：LLM评估、可观测性、指标、提示管理、游乐场、数据集。与OpenTelemetry、LangChain、OpenAI SDK、LiteLLM等集成。🍊YC W23

#4

netron

神经网络、深度学习和机器学习模型的可视化工具

#5