#181 · 主分类: 推理与本地部署

tensorRT_Pro

deep-learning object-detection pytorch tensorrt yolov5 yolox

基于tensorrt集成的C++库

项目最后更新:05/24/23

GitHub Stars

2.9K

Forks数量

573

贡献者数量

17

许可证

MIT

收录理由

tensorRT_Pro 把 TensorRT 封装成了紧凑的 C++ 和 Python 接口,几行代码就能让 YOLOv5、YOLOX 或 YOLOv7 从 PyTorch 权重变成可运行的推理引擎。它覆盖了从 ONNX 导出、引擎编译到序列化以及 CUDA 加速的前后处理全流程,同一套封装也适用于人脸、姿态和跟踪模型,比如 RetinaFace、ArcFace、AlphaPose、CenterNet 和 DeepSORT。项目提供 FP32、FP16 和 INT8 三种构建路径,自带的基准测试日志能让你在选定部署目标前,先对照自己的硬件看看实际速度。教程视频、notebook 以及社区带注释的 fork 版本,都让这里成为学习 TensorRT 优化的好地方,而不是单纯抄例子代码。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目