TensorRT 다운로드
자신의 CUDA 버전에 따라 해당 TensorRT 압축 패키지를 다운로드하십시오. 저는 NVIDIA GeForce 3090, CUDA11.1을 사용하고 nvcc -V
CUDA 버전을 확인하는 데 사용합니다.
(base) C:\Users\Administrator>nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2020 NVIDIA Corporation
Built on Mon_Oct_12_20:54:10_Pacific_Daylight_Time_2020
Cuda compilation tools, release 11.1, V11.1.105
Build cuda_11.1.relgpu_drvr455TC455_06.29190527_0
아래 그림과 같이 Nvidia 공식 웹사이트 에 들어가 해당 TensorRT 버전을 다운로드합니다.
압축을 풀다
TensorRT에 bin 폴더를 입력하고 cmd에서 sample_mnist.exe를 실행하면 아래와 같이 뜨면 설치가 성공한 것입니다.