centos7にTensorRTをインストールします

リファレンスブログ:TensorRTのCentos7インストール

:a。TensorRTとpycudaパッケージファイルの2つのメインファイルがあります。
b。tensorRTは、公式Webサイトからダウンロードし、固定システムフォルダーに解凍する必要があります。Pycudaはpipを使用して直接インストールできます。
c。加速プロセス:pytorchモデルをonnxに変換し、独自のonnxモジュールを使用します。次に、おそらく接尾辞.engineを付けて、onnxを介してtensorrtモデル形式に変換します。最後に、このエンジンを対応する加速に使用できます。

1. cudaとcudnnのインストールに関する
問題:
patchlevel.hにそのようなファイルはありません
。python-develをpython3-develに変更してください。

2. tensorRTインストール
tensorRTのインストールを公式サイト
tensorrtの
tensorrtダウンロード-Baiduディスク
tensorRTサンプル
TensorRT APIの使用

pycudaの3.インストール
pycudaのインストール公式サイト
やPIP3がpycudaをインストール

libを/ usr / lib64 /にコピーし、sudo cp TensorRT-5.XXX/targets/x86_64-linux-gnu/lib/lib * / usr / lib64 /

4. TensorRTを使用してPytorchモデルを高速化します(シンプルで実用的)

おすすめ

転載: blog.csdn.net/yangdashi888/article/details/114835122
おすすめ