TensorRT を win10 にインストールする

TensorRT をダウンロード

自分の CUDA バージョンに応じて、対応する TensorRT 圧縮パッケージをダウンロードします。私は NVIDIA GeForce 3090、CUDA11.1 を使用し、nvcc -VCUDA バージョンを確認するために使用します。

(base) C:\Users\Administrator>nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2020 NVIDIA Corporation
Built on Mon_Oct_12_20:54:10_Pacific_Daylight_Time_2020
Cuda compilation tools, release 11.1, V11.1.105
Build cuda_11.1.relgpu_drvr455TC455_06.29190527_0

以下の図に示すように、Nvidia 公式 Web サイトにアクセスして、対応する TensorRT バージョンをダウンロードします。

解凍する

Visual Studio を使用して、TensorRT の下でsamples\sampleMNIST プロジェクトを開きます。 VS2017を使用しているので、開いたら以下のように設定し、右クリック→プロパティ TensorRT の lib フォルダーには dll ファイルと lib ファイルが含まれているため、TensorRT の lib フォルダーのパスに次の設定を追加します: VC++ ディレクトリ→実行ファイル ディレクトリ 次のように TensorRT に lib フォルダーのパスを追加します: VC++ ディレクトリ → ライブラリ ディレクトリ TensorRT にインクルード フォルダー パスを次のように追加します: C/C++→General→Additional include directory 次のように lib フォルダーにすべての lib ファイルを追加します [nvinfer.lib、nvinfer_plugin.lib、nvonnxparser.lib、nvparsers.lib]: リンカー → 入力 → 追加の依存関係 プロジェクトを右クリック→再生成

TensorRT で bin フォルダーに入り、cmd でsample_mnist.exe を実行し、以下のように表示されればインストールは成功です。