#115 · 主分类： 深度学习框架
nncf
bert
classification
compression
deep-learning
genai
llm
mixed-precision-training
nlp
object-detection
onnx
openvino
pruning
pytorch
quantization
quantization-aware-training
semantic-segmentation
sparsity
tensorflow
transformers
用于增强 OpenVINO™ 推理的神经网络压缩框架
项目最后更新：08/27/26
GitHub Stars
1.2K
Forks数量
302
贡献者数量
89
许可证
Apache-2.0
收录理由
NNCF是OpenVINO项目下的模型压缩工具库，面向一个很常见的生产难题：模型太大、推理太慢，部署起来不够顺手。它同时覆盖训练后压缩和训练中压缩两条路径，具体手段包括量化、剪枝、稀疏化以及混合精度训练，能在不重新设计网络结构的前提下把模型体积压下来、把推理延迟降下去。由于它直接支持PyTorch、ONNX和OpenVINO模型，可以自然嵌入你已有的训练流程，不必为了压缩而另起炉灶。项目维护的示例和模型库给出了可复现的压缩效果与操作步骤，如果你的目标是在Intel硬件上跑得更快，从这些现成方案入手会省去不少摸索时间。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。