Para ayudar a mejorar la eficiencia del entrenamiento de Pytorch, NVIDIA ha abierto Apex, una herramienta de entrenamiento de precisión mixta. Afirma ser capaz de aumentar la velocidad del entrenamiento del modelo de 2 a 4 veces sin reducir el rendimiento y reducir el consumo de memoria del entrenamiento a la mitad del anterior.
Método de instalación oficial (fallido)
git clone https://github.com/NVIDIA/apex
cd apex
pip install -v --no-cache-dir --global-option="--cpp_ext" --global-option="--cuda_ext" ./2.
Instalado correctamente con el siguiente método
git clone https://github.com/NVIDIA/apex
cd apex
python3 setup.py install