需自行完成 .pth 到 .onnx 再到 .plan/.engine 的模型转换;各任务需进入对应子目录按各自 README 操作;Jetson 需先烧录 Jetpack 4.6.1 镜像

TensorRT-YOLO11
emptysoalMIT长期未更新把 YOLO11 的检测、姿态估计、分割和跟踪模型用 TensorRT v8.0+ 部署到 C++ 和 Python 接口,省去自己写推理代码的麻烦。
Based on tensorrt v8.0+, deploy detection, pose, segment, tracking of YOLO11 with C++ and python api.
参考 https://github.com/emptysoal/tensorrt-experiment 构建 TensorRT 环境;满足 TensorRT 8.0+ 与 OpenCV 3.4.0+ 后直接进入 C++ 或 python 各任务目录按其 README 运行需 TensorRT 8.0+ 与 OpenCV 3.4.0+,支持 Jetson 系列与 Linux x86_64 服务器;README 未给出显存要求,测速环境为 RTX 2080 Ti。
基于 TensorRT 部署 YOLO11 检测、姿态、分割与跟踪的 C++/Python 推理项目
把 YOLO11 的检测、姿态估计、分割和跟踪模型用 TensorRT v8.0+ 部署到 C++ 和 Python 接口,省去自己写推理代码的麻烦。
核心能力
- 用 CUDA 自写前后处理张量操作,无需 CUDA 版 OpenCV
- 覆盖检测、关键点、实例分割、ByteTrack 跟踪四类任务
- 提供 C++ 与 Python 两套面向对象 API
- C++ 版编译为动态链接库,便于其他项目调用
- 模型按 .pth 转 .onnx 再转 .plan/.engine 流程转换
容易踩的坑
暂无 release 数据(可能没有发版,或尚未同步)。
用户点评
登录用户的真实使用记录,可按版本和硬件筛选还没有人点评。第一个说出真实体验的人最有价值。
TensorRT 部署 YOLO11 目标检测、关键点检测、实例分割、目标跟踪
一. 项目简介
-
基于
TensorRT-v8,部署YOLO11目标检测、关键点检测、实例分割、目标跟踪 4 项任务; -
支持在
Jetson系列、Linux x86_64服务器上部署; -
无需安装支持
cuda的OpenCV,前后处理的张量操作都是作者通过cuda编程实现; -
模型转换方式:
.pth->.onnx->.plan(.engine); -
作者使用
Python和C++2 种api分别做了实现; -
均采用了面向对象的方式,便于结合到其他项目当中;
-
C++版本的还会编译为动态链接库,便于在其他项目种作为接口调用;
二. 项目效果
| 原图 | 目标检测 |
|---|---|
![]() | ![]() |
| 关键点检测 | 实例分割 |
![]() | ![]() |
- ByteTrack目标跟踪

三. 推理速度
| detect | pose | segment | |
|---|---|---|---|
| C++ | 3 ms | 4 ms | 6 ms |
| python | 10 ms | 13 ms | 45 ms |
- 这里的推理时间包含前处理、模型推理、后处理
- 这里基于
x86_64 Linux服务器,Ubuntu系统,显卡为GeForce RTX 2080 Ti
四. 环境配置
- 基本要求:
TensorRT 8.0+OpenCV 3.4.0+
如果基本要求已满足,可直接进入各目录下运行各任务
环境构建可以参考下面内容:
- 如果是
Linux x86_64服务器上,建议使用docker
- 具体环境构建,可参考这个链接 构建TensorRT环境 的环境构建部分,也是作者的项目
- 如果是边缘设备,如:
Jetson Nano
- 烧录
Jetpack 4.6.1系统镜像,网上烧录镜像的资料还是很多的,这里就不赘述了 Jetpack 4.6.1系统镜像原装环境如下:
| CUDA | cuDNN | TensorRT | OpenCV |
|---|---|---|---|
| 10.2 | 8.2 | 8.2.1 | 4.1.1 |
五. 项目运行
-
本项目
Python和C++目录下均包含detect、pose和segment; -
按照各自目录下的
README分别实现目标检测、关键点检测、实例分割 、目标跟踪 4 种任务。



