#113 · 主分类： 深度学习框架
torchdistill
amazon-sagemaker-lab
cifar10
cifar100
coco
colab-notebook
glue
google-colab
image-classification
imagenet
knowledge-distillation
natural-language-processing
nlp
object-detection
pascal-voc
pytorch
pytorch-ecosystem
semantic-segmentation
text-classification
transformer
一个配置驱动的PyTorch框架，用于可复现的知识蒸馏和通用深度学习实验，无需编码。
项目最后更新：08/28/26
GitHub Stars
1.6K
Forks数量
145
贡献者数量
6
许可证
MIT
收录理由
做知识蒸馏实验，最耗时的往往不是算法本身，而是搭建师生模型的训练回路。torchdistill 把这件事大幅简化：它基于 PyTorch，集成了二十多种来自计算机视觉和自然语言处理顶级会议发表的蒸馏方法，用户只需编辑一份 YAML 声明式配置，就能组装整个实验流程，完全不用写 Python 代码。如果要从师生模型中抽取中间层表征，也不用重写前向传播，直接在配置里指明模块路径即可。更灵活的是，去掉配置文件里的教师模型条目，它就变成一个普通的训练框架，同样无需编码。这样一来，无论是横向对比不同蒸馏方案，还是复现论文中的实验结果，都能省下大量工程时间，是个很实用的研究底座。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。