花书+吴恩达深度学习（二九）生成随机网络 GSN

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/zhq9695/article/details/86688525

如果这篇文章对你有一点小小的帮助，请给个关注，点个赞喔，我会非常开心的~

花书+吴恩达深度学习（二七）深度生成模型之玻尔兹曼机及其变体（RBM, DBN, DBM）
花书+吴恩达深度学习（二八）深度生成模型之有向生成网络（VAE, GAN, 自回归网络）
花书+吴恩达深度学习（二九）生成随机网络 GSN

0. 前言

生成随机网络（generative stochastic network）除可见变量外，在生成马尔可夫链中还包含潜变量。

1. 生成随机网络 GSN

GSN由两个条件概率分布参数化，指定马尔可夫链的一步：

• $p(x^{(k)}\mid h^{(k)})$指示在给定当前潜在状态下如何产生下一个可见变量
• $p(h^{(k)}\mid h^{(k-1)},x^{(k-1)})$指示在给定先前的潜在状态和可见变量下如何更新潜在状态

GSN自己参数化过程，而不是通过可见和潜变量的联合分布的数学形式。

GSN的训练准则，通过将 $x^{(0)}=x$夹合到观察到的样本并且在一些后续时间步处使生成x的概率最大化，即最大化 $\log p(x^{(k)}=x\mid h^{(k)})$，其中给定 $x^{(0)}=x$后， $h^{(k)}$从链中采样。

---

如果这篇文章对你有一点小小的帮助，请给个关注，点个赞喔，我会非常开心的~