Torch-Pruning

收录理由

修剪一个训练好的网络，难点常常被低估：各层之间是相互耦合的，删掉某一层的输出通道，下一层的输入维度也得跟着调整，传统的掩码式剪枝往往只能把权重置零，实际推理速度提升有限。Torch-Pruning 用依赖图算法把这种“连带关系”自动梳理清楚，将耦合参数作为一个整体成组移除，真正让网络结构变小，而不是只做表面功夫。无论你手上是大型语言模型、视觉 Transformer、CNN 检测器，还是扩散模型，只要基于 PyTorch 训练，它都能帮你压缩体积、降低延迟，同时尽量保住原有精度。仓库里附带了可直接运行的示例，覆盖 Hugging Face、Timm、Torchvision 上的常见模型；底层 DepGraph 方法源自 CVPR 2023 的公开论文，机制透明，方便你验证或进一步扩展。如果你的模型要部署到内存或算力受限的设备上，这是一个实用且通用的起点。