GAN网络论文带读:Generative Adversariay Nets 生成对抗网络
生成模型:G抓住数据的分布 ---》造假的人
判别模型:D 辨别是生成的还是本身的 ---》警察
“枯叶蝶理论”
最后希望是造假者很厉害警察无法辨别 gan需要的就是辨别起无能为力
框架:G和D都是MLP
判别器是一个二分类模型
G:x 游戏中的截图 ,z是随机噪音 将Z Pz(Z) = x(x是我们画面上看到的数据)
D:训练G 获得最小的 log(1 - D(G(z))),训练一个G 让辨别器犯错
判别器输入加数据时,输出越小越好
D是完美的情况下都是等于0的
目标函数里面是两个东西:D:使得数据分开,G:使得数据不分开
每次迭代,先更新辨别器,在更新生成器 k值就是一个超参数 在更新G的时候将 logD(G(x)) 最大化 G()是一个可导可微的函数
当生成器固定住的情况下 最优解最优判别器:pg:是生成器的家图像服从的概率分布 pdata(x)原始数据的概率分布
KL散度:衡量俩个分布 之间的差异(KL不对称) JS散度衡量两个分布的平均值(对称)
gan使用了对称散度 gan使用的是无监督处理
pixtopix cyclegan —–》gan变体
“花书” —-《深度学习》 他们发起了 ICCR 顶会
计算问题就是海量问题转化成计算机能解决的问题
对抗样本的区别:不是对于模型的而是对于输入处理的 噪声 — 》生成器 —-〉假图 —》判别器 —〉输出值越大越好 生成器和判别器同时训练会产生模式崩溃:不管输入什么噪声都会生成一摸一样的图片 ,这种情况不能调参 间接训练方式直接阻隔了过拟合 输入噪声渐变,生成图像也是渐变
原文中:训练两次生成器 训练一次判别器