transformers-interpret

收录理由

当分类器的预测结果让人意外时，最值得追问的往往是哪些词把模型推向了这个结论。transformers-interpret 在 Captum 的归因算法上包了一层理解 transformers 生态的薄壳，让序列分类和交叉编码器模型不必重写管线就能拿到词级别的特征重要性分数。它同时支持计算机视觉解释器，并能把结果存成 notebook 可视化或独立 HTML 文件，方便你在写审计报告或向非技术背景的评审解释预测来源时直接使用。无论是排查异常输出，还是检查微调模型到底学到了什么，它都能给出快速而具体的答案。由于依赖成熟的归因数学而非自制启发式规则，解释结果有扎实的依据。