Implementación del modelo Pytorch --------- ubuntu install cuda, cudnn, tensorrt

Tabla de contenido

Instalar CUDA

CUDA es una plataforma informática lanzada por el fabricante de tarjetas gráficas NVIDIA. CUDA ™ es una arquitectura de computación paralela de propósito general lanzada por NVIDIA Es una plataforma de computación paralela y un modelo de programación que permite a las GPU resolver problemas de computación complejos. El nombre completo en inglés de CUDA es Compute Unified Device Architecture.

Algunas personas dicen: CUDA es un lenguaje de programación, como C, C ++, python, y algunas personas dicen que CUDA es una API.
El funcionario dijo: CUDA es una plataforma de computación paralela y un modelo de programación que puede hacer que el uso de GPU para computación general sea simple y elegante.
Para ejecutar aplicaciones CUDA, el sistema requiere al menos una GPU con funciones CUDA y un controlador compatible con CUDA Toolkit.
Ver el comando de versión CUDA: nvcc -Vo nvcc --versionocat /usr/local/cuda/version.txt

Cada versión de CUDA Toolkit corresponde a una versión mínima del controlador CUDA (versión del controlador de gráficos); consulte la tabla siguiente para obtener más detalles. Descarga del controlador CUDA , descarga del kit de herramientas CUDA , tutorial de instalación del controlador CUDA , tutorial de instalación 1 del kit de herramientas CUDA , tutorial de instalación 2 del kit de herramientas CUDA

Instale los comandos principales del controlador CUDA: para sudo sh ./NVIDIA-Linux-x86_64-???.??.run
obtener tutoriales detallados, consulte otros blogs

Información importante: el kit de herramientas CUDA y el controlador de gráficos del controlador CUDA tienen correspondencia de versión.
Pero al mismo tiempo: puede instalar varias versiones de CUDA (como CUDA 9.0, CUDA 10.1) en la misma máquina (es decir, la misma versión del controlador CUDA). Solo necesita cumplir con la versión CUDA compatible con la CUDA actual Versión del controlador Consulte la siguiente figura.

Tengo entendido: instalar CUDA es instalar el kit de herramientas CUDA (En otras palabras, no instale el controlador), es descargar el archivo .run de instalación de CUDA Toolkit (como cuda_9.0.176_384.81_linux.run) del sitio web oficial para instalarlo.

Documento oficial

Instalar TensorRT

Página web oficial

Documento guía

Según esta instalación seguida de cudnn

Proceso de instalación

Instalar cudnn

enlace de descarga cudnn

Descargar según sea necesario

Descomprima el archivo descargado, puede ver la carpeta cuda, abrir la terminal en el directorio actual y ejecutar el siguiente comando:

sudo cp cuda/include/cudnn.h /usr/local/cuda/include/
 
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64/
 
sudo chmod a+r /usr/local/cuda/include/cudnn.h
 
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*

Verificar instalación

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

zhongsy@zhongsy:~$ cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2
#define CUDNN_MAJOR 8
#define CUDNN_MINOR 0
#define CUDNN_PATCHLEVEL 5
--
#define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)

#endif /* CUDNN_VERSION_H */