(オリジナル)UbuntuのインストールTensorRT

ソースを記入してください:

https://www.cnblogs.com/darkknightzh/p/11129472.html

参考サイト:

https://docs.nvidia.com/deeplearning/sdk/tensorrt-install-guide/index.html

https://arleyzhang.github.io/articles/7f4b25ce/

https://docs.nvidia.com/deeplearning/sdk/cudnn-install/index.html

1つの解説

1.1 DEBは、直接インストール。しかし、私はCUDAドライバの前に設置されているか覚えていません。オンラインは、CUDAドライバとTensorRTFは、DEBのインストールジョブあると述べました。

1.2設置環境のUbuntu 16.04.1 +アナコンダ(python3.6.8)+ cuda9.0 + cudnn7.5

インストールステップ2

2.1須藤のdpkg -i NV-tensorrt-レポubuntu1604-cuda9.0-trt5.1.5.0-GA-20190427_1-1_amd64.deb

2.2須藤はapt-キー-add /var/nv-tensorrt-repo-cuda9.0-trt5.1.5.0-ga-20190427/7fa2af80.pub

2.3須藤はapt-getを更新

2.4須藤はapt-getをインストールtensorrt

この時点で、TensorRTFのインストールは完了です。

2.5次のコマンドを実行すると、インストールが成功したかどうかを確認するには:

dpkgの-l | grepの TensorRT

2.6をインストールするには、次のコマンドは、(とにかく、右に何がインストールされているか、知りません):

須藤はapt - インストールのpython3-libnvinfer-devの

2.7 到上面,python里面无法import tensorrt。直接使用ubuntu自带的archive manager打开nv-tensorrt-repo-ubuntu1604-cuda9.0-trt5.1.5.0-ga-20190427_1-1_amd64.deb文件,可以看到里面有python3.6的XXX。通过下面命令安装该whl文件。

pip install tensorrt-5.1.5.0-cp36-none-linux_x86_64.whl

2.8 验证python能否导入tensorrt(此处成功):

2.9 安装PyCUDA。

PyCUDA允许python直接访问CUDA的API。

首先保证nvcc在PATH路径中。而后输入:

pip install 'pycuda>=2017.1.1'

2.10 验证程序能否运行(见下面网址)

https://arleyzhang.github.io/articles/7f4b25ce/

可以把 tensorrt 文件夹拷贝到用户目录下,方便自己修改测试例程中的代码。

进入 samples 文件夹直接 make,会在 bin 目录中生成可执行文件,可以一一进行测试学习。

运行了sample_mnist,结果如下:

3 卸载

具体见网址:

https://docs.nvidia.com/deeplearning/sdk/tensorrt-install-guide/index.html#uninstalling

sudo apt-get purge "libnvinfer*"
pip uninstall tensorrt

4 其他

4.1 cudnn使用deb安装:

说明:不建议使用这种方式安装。

Navigate to your <cudnnpath> directory containing cuDNN Debian file.

Install the runtime library, for example:

sudo dpkg -i libcudnn7_7.0.3.11-1+cuda9.0_amd64.deb

Install the developer library, for example:

sudo dpkg -i libcudnn7-devel_7.0.3.11-1+cuda9.0_amd64.deb

Install the code samples and the cuDNN Library User Guide, for example:

sudo dpkg -i libcudnn7-doc_7.0.3.11-1+cuda9.0_amd64.deb

4.2 使用tar文件安装 

Navigate to your <cudnnpath> directory containing the cuDNN Tar file.

Unzip the cuDNN package.

tar -xzvf cudnn-9.0-linux-x64-v7.tgz

Copy the following files into the CUDA Toolkit directory, and change the file permissions.

sudo cp cuda/include/cudnn.h /usr/local/cuda/include
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*

4.3 测试cudnn是否安装成功

1)/usr/src/cudnn_samples_v7放到home文件夹下。

2)cd mnistCUDNN/

3)make

4)./mnistCUDNN

出错了。。。

原因是之前/usr/local/cuda中cudnn用的是7.4.2版本的。替换为7.5之后,运行成功。(实际上在/usr/lib/x86_64-linux-gnu中有刚刚使用deb装上的7.5版本的cudnn,但是程序未能找到。不知道目前有两套相同版本的cudnn,以后会不会出问题吧。。。所以不建议使用deb安装,位置不可控)

おすすめ

転載: www.cnblogs.com/darkknightzh/p/11129472.html