1. Introducción a la herramienta Torch Profiler
https://zhuanlan.zhihu.com/p/360479566
PyTorch Profiler es una herramienta de código abierto para el análisis preciso y eficiente de modelos de aprendizaje profundo a gran escala 性能分析. Incluyendo las siguientes funciones:
- Analice el uso de GPU y CPU del modelo
- Consumo de tiempo de varios operadores op
- Uso de CPU y GPU de la red de seguimiento en la canalización
ProfilerUtilice Tensorboardla visualización 模型的性能para ayudar a descubrir modelos 瓶颈Por ejemplo, el uso de la CPU alcanza el 80 %, lo que indica que el rendimiento de la red se ve afectado principalmente por la CPU, no por la inferencia de la GPU del modelo y el consumo de varias operaciones del kernel. En este momento, la ponderación ligera del modelo y la poda no son útiles para la velocidad de ejecución del modelo. La clave es reducir el consumo de CPU y la optimización del código, para evitar hacer un trabajo inútil y ayudarnos a optimizar el rendimiento del proyecto. .
