TensorRT-YOLO

收录理由

把 YOLO 模型部署到 NVIDIA 硬件上，远不只是导出权重那么简单。你还得把它转成 TensorRT 引擎，优化预处理速度，再把推理结果接进自己的应用。这个工具包把整条流水线打包成 C++ 和 Python 接口，底层用 CUDA 核函数和 CUDA Graph 执行来加速，TensorRT 插件则负责后处理。一套代码路径同时覆盖目标检测、实例分割、姿态估计、图像分类和旋转框检测，团队可以统一用这一个部署库，不必为每种任务各写一套胶水代码。嵌入式场景也考虑到了：支持 x86 和 ARM 构建，针对 Jetson 这类设备提供零拷贝内存处理，还提供单头文件的 C++ 版本，避免让大应用额外链接 CUDA 和 TensorRT 依赖。每个任务都有可直接运行的示例，当你搭自己的推理服务或对比不同引擎配置时，拿它当参考很方便。