alibi

收录理由

对于需要向业务方或监管方解释单个预测结果的团队来说，Alibi 提供了非常实用的支持。这个 Python 库同时覆盖局部与全局解释方法，内置了锚点、反事实搜索、集成梯度、部分依赖图和 ALE 图等实现，可用于表格、文本和图像模型。多数方法把模型当作黑盒，因此能直接对接生产环境中的预测接口，而不只适用于内存中的模型；白盒方案则能利用梯度获得更快且更忠实的解释。在信用评分、医疗机器学习或其他受监管的模型场景里，当审计和合规人员追问决策依据时，这些能力尤为重要。Alibi 支持分类与回归任务，并兼容 TensorFlow 和 Keras，可以自然地融入现有流程，无需推倒重来。