keras-vis

收录理由

keras-vis 是一个轻量级的工具包，专门用来观察已经训练好的 Keras 模型内部发生了什么。它把激活最大化、显著图和类别激活图统一成能量最小化问题，对外只暴露一套简洁的接口，你可以不费太多功夫就接入自定义的损失函数和正则化项。当你在调试图像分类器，想弄清楚网络到底依赖输入的哪些区域，或者某个卷积核学到了什么特征时，显著图和类别激活图能直接给出直观的答案。项目附带的示例里有一个 VGG16 的完整演示，甚至会把优化过程渲染成动态 GIF，照着改一改就能用到自己的模型上。它更像一个专注的可解释性库，而不是包罗万象的框架，适合那些只想快速看清训练好的视觉模型内部机制的人。