eli5

收录理由

ELI5 面向那些需要弄清训练好的模型为何做出某个判断的开发者。它为数据科学家和机器学习工程师提供了一套统一的 Python 接口，用来检查分类器并解释单个预测结果，覆盖 scikit-learn、XGBoost、LightGBM、CatBoost 和 Keras 等常见框架。对于线性模型和树模型，它直接给出特征权重；面对黑盒估计器，则采用类似 LIME 的局部解释和排列重要性，帮助你看清哪些输入真正影响了输出。文本处理流程和基于 sklearn-crfsuite 的命名实体识别也在支持范围内，较新版本还加入了针对大语言模型输出的 token 概率可视化。当模型行为异常、你需要确认它究竟在关注什么时，从这里入手是个不错的选择。