【量化相关】TensorRT安装

简单记录一下tensorrt的安装步骤

1、下载连接  https://developer.nvidia.com/nvidia-tensorrt-8x-download

找到自己使用环境所需要的版本进行下载

2、安装

  • 复制TensorRT-8.4.0.6\bin中内容到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\bin
  • 复制TensorR-8.4.0.6\include中的文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\include文件夹中
  • 复制TensorRT-8.4.0.6\lib文件夹中的lib文件C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\bin夹中。
  • 复制TensorRT-8.4.0.6\lib文件夹中的dll文件C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\lib夹中。
  • 使用pip install xxx.whl安装TensorRT-8.4.0.6文件夹中的

 安装完成后再使用yolov5生成pt模型,然后使用trt加速后生成engine模型,对141张图检测,运行速度对比如下。

 pt速度:

engine速度:

扫描二维码关注公众号,回复: 15271970 查看本文章

 参考引用:http://www.ppmy.cn/news/10962.html

猜你喜欢

转载自blog.csdn.net/weixin_45994963/article/details/129183620