Prólogo
La implementación del algoritmo es el proceso de tensor que realiza varias operaciones, y el gráfico computacional (Gráfico computacional) es un gráfico acíclico detallado que registra estas operaciones, como que el tensor de entrada se suma, resta, multiplica y divide para obtener el tensor de salida. Luego, el gráfico de cálculo registrará el tensor de entrada y salida, suma, resta, multiplicación y división y algunas variables intermedias. La derivación automática es un método muy importante. Tener un mecanismo de este tipo nos permite evitar cálculos de gradiente engorrosos al diseñar modelos. El marco de esta nota se deriva principalmente de la profundidad del ojo , y se han realizado algunas expansiones relacionadas, que provienen principalmente de la traducción y comprensión de documentos de antorchas y algunos sitios web que introducen tensorflow y Pytorch.
Imágenes estáticas y dinámicas.
El gráfico de cálculo de Pytorch es dinámico, es decir, el gráfico de cálculo se genera mientras se ejecuta el código, que es un proceso continuo; el gráfico de cálculo de Tensorflow es estático, es decir, la estructura del gráfico de cálculo se determina primero, y luego solo los datos fluyen en el gráfico de cálculo, es decir, Tensor flow
tensorflow, tensor flow en el gráfico de cálculo, la imagen proviene de un sitio web extranjero que introduce tensorf .
Pytorch, ejecute una línea de código y agregue un nuevo gráfico de cálculo al gráfico de cálculo original, la imagen es de Pytorch en github