1. Algunas tareas de aprendizaje profundo usarán el paquete apex, pero habrá muchos problemas en la instalación de este paquete. En primer lugar, no podemos usar este pip install apex paquete para instalarlo. Generalmente, es inútil. Debe usar el siguiente comando para instalarlo.
2,
git clone https://github.com/NVIDIA/apex
cd apex
pip install -v --disable-pip-version-check --no-cache-dir --global-option="--cpp_ext" --global-option="--cuda_ext" ./
Los estudiantes que usan la velocidad de red de git no son lo suficientemente rápidos pueden ir directamente al sitio web oficial para descargar y ejecutar la siguiente URL de comando: https://github.com/NVIDIA/apex
Al instalar apex, necesita antorcha para que coincida con su versión de cuda, de lo contrario se reportará una versión de error No corresponde. En este momento, podemos instalar varias versiones de cuda en el servidor, de modo que las versiones de cuda puedan coincidir. En esta parte, puede buscar cómo instalar varias versiones de cuda en el sistema Ubuntu.
3. Este es un error que aún puedes cometer
Attr ibuteError: module ' torch.distributed' has no attribute '_ reduce_ scatter_base‘
或者是
AttributeError: module 'torch.distributed' has no attribute '_all_gather_base'
En este momento, puedes descargar la versión 22.04dev e instalarla, lo que debería resolver el problema (lo resolví a través de esto, recuerda desinstalar la instalación anterior y luego instalarla, por temor a errores extraños, el comando para instalar 22.04dev sigue siendo Lo anterior es lo mismo, la versión se puede descargar desde el sitio web oficial).
cd apex-22.04-dev
pip install -v --disable-pip-version-check --no-cache-dir --global-option="--cpp_ext" --global-option="--cuda_ext" ./
Finalmente, la instalación de mi entorno es
python 3.7
cuda11.1
torch1.9.0+cu11
apex0.1 (usó la instalación 22.04dev)