lit

收录理由

LIT（学习可解释性工具）以浏览器界面和可视化交互的方式，让你能直接审视机器学习模型，而不是凭直觉信任它。你可以把它跑成本地服务，或嵌入Jupyter、Colab这类笔记本环境，加载文本、图像或表格模型，然后提出具体问题：模型在哪些样本上表现差，某个预测的成因是什么，改动输入后结果会不会变。解释方面，它提供单条预测的显著性图、用于聚合分析的切片与分箱、反事实样本生成，还有并排对比模式，能在同一组例子上比较两个模型。它兼容TensorFlow和PyTorch，无需改动训练代码，插件式设计也能扩展新模型类型，因此比多数可解释性研究工具更容易融入现有ML工作流。发布前用它调试模型，或借此直观感受模型真正学到了什么，都很实用。