[Python] Modelo de difusión modelo de difusión

1. Documentos relacionados

   1. Aprendizaje profundo no supervisado usando termodinámica sin equilibrio https://arxiv.org/abs/1503.03585

   2. Modelos probabilísticos de difusión de eliminación de ruido https://arxiv.org/abs/2006.11239

   3. Síntesis de imágenes de alta resolución con modelos de difusión latente https://arxiv.org/abs/2112.10752

2. Revisión de conocimientos matemáticos

   1. transformación algebraica

   2. Las estadísticas de probabilidad se muestran en la siguiente figura. En la fórmula bayesiana, p(y) es anterior, p(x|y) es probabilidad, p(x) es evidencia y p(y|x) es posterior

      

      

   3. Modelo gráfico probabilístico

   4. inferencia variacional

      

   5. reparametrización

      

3. Descripción general del modelo generativo

   1. Un modelo de difusión es un modelo de variable latente donde x1,...,xT son variables latentes con las mismas dimensiones que x0
   2. La distribución conjunta p_θ(x0:T) se denomina proceso inverso, es una cadena de Markov, la distribución de transferencia está en forma gaussiana, expresada como fórmula en la Figura 2
   3. Bajo la condición del valor medio del parámetro dado μθ(xt, t), el valor de la variable aleatoria xt-1 obedece a una distribución normal
   4. El proceso de entrenamiento se realiza minimizando la probabilidad logarítmica negativa del límite variacional regular

4. proceso de difusión hacia adelante

   

5. proceso de eliminación de ruido inverso

   

6. Proceso de difusión Distribución posterior

   

   

   

         

   

7. Derivación variacional de la función de pérdida

   

   

    

   

   

8. Parametrización de la función de pérdida

   

   

   

   

9. Algoritmos de entrenamiento y muestreo