原文链接：https://arxiv.org/abs/1701.07875
简介
核心思想：引入“Wasserstein距离”改进GAN的优化细节来稳定GAN的训练过程。做法十分简单：通过去掉判别器中的sigmoid，以及生成器和判别器中LOSS的log运算，且每次更新时将更新的值限制在一个常数大小C之内，并且尽量不使用基于动量的优化算法。
直观地说，原始的GAN使用JSD来作为LOSS是不合理的，它的分布如右图所示仅仅在两个分布相拟合的时候才会等于零，并且此点与其他点之间是不连续的，因此使用随机梯度下降来优化模型是十分困难的。而本文作者去掉sigmoid层，等于将使用非线性压缩到01之间的输出结果还原为线性的，这样输出结果会更加连续；但是由于没有使用sigmoid，输出结果的值范围变化很大，当输出值过大使得LOSS也过大的时候会使得判别器迅速收敛到极值，这样并不有利于生成器对原始数据的拟合，因此作者又提出对模型参数更新的上限值，目的就是减缓生成器和判别器的收敛速度防止模式溃散；最后作者，还提出不要使用基于动量的优化器，其用意是让模型优化的方向更随机，保证生成器建立的数据拟合分布能较完整的拟合原数据分布。
LOSS突变问题
由上述的公式可以直观的看出JS，KL以及sigmoid在分布拟合上都是存在突变值的且多数时候常数函数无法刻画两个分布的相似程度，但是W使用线性的函数作为loss没有突变值的存在且是线性，在优化时就可以只管刻画出两个分布的距离。
PS:一个好的LOSS函数，应该是能根据模型输出结果的好坏程度，返回一个对应程度的惩罚项使得模型明确优化的方向。
而原始GAN中设计的LOSS函数在两个分布相似度上的反馈惩罚项是不具备反应其程度能力的，也正是因此Wasserstein GAN的改进大大降低了GAN网络训练的难度。
模式的建立
回到最原始的GAN网络的思想，我们是希望一对生成器与判别器在对抗学习的过程中相互促进共同进步的，那么我们就必须保证生成器与判别器实力是相当的。然而在优化的过程中，有时生成器训练的快，有时判别器训练的快，这会使得生成器战胜判别器或者判别器战胜生成器，导致训练失败。但是实际中，往往是有明确标签的判别器训练地更快。
基于此，本文中提出了一种更新抑制的方式，将每次对网络更新的程度抑制在一个固定的范围内。详细看一下LOSS的设计：
Wasserstein距离又叫Earth-Mover（EM）距离
γ为Pr和Pg的联合分布，整个式子描述了Pr与Pg的分布相似性，但是由于γ联合分布难以求解，作者又对式子进行等价变换（推到流程可以到原论文附录中查找）：
其中K的是Lipschitz常数，简单说就是保证函数f(x)满足下式的K，K刻画了f(x)的最大导数：
那么W即是将Pr和Pg分布相差的最大上界取出后除以K，如果用函数族w来代替f，则
这个式子表示其实我们可以使用深度学习在fw中搜索出一个合适f使得W(Pg,Pr)最小，即Pr和Pg相拟合。实际中我们并不会去求解K，仅是用一个用0左右的小值来代替，最终LOSS函数简化为：
其中fw即为判别器D，Pr为真实分布，Pg为生成分布。
算法流程
上图直观表现出了WGAN的LOSS在优化时的优越之处。
代码与实践
参考链接（https://github.com/WingsofFAN/PyTorch-GAN/blob/master/implementations/wgan/wgan.py）
import argparse
import os
import numpy as np
import math
import sys
import torchvision.transforms as transforms
from torchvision.utils import save_image
from torch.utils.data import DataLoader
from torchvision import datasets
from torch.autograd import Variable
import torch.nn as nn
import torch.nn.functional as F
import torch
os.makedirs("images", exist_ok=True)
parser = argparse.ArgumentParser()
parser.add_argument("--n_epochs", type=int, default=200, help="number of epochs of training")
parser.add_argument("--batch_size", type=int, default=64, help="size of the batches")
parser.add_argument("--lr", type=float, default=0.00005, help="learning rate")
parser.add_argument("--n_cpu", type=int, default=8, help="number of cpu threads to use during batch generation")
parser.add_argument("--latent_dim", type=int, default=100, help="dimensionality of the latent space")
parser.add_argument("--img_size", type=int, default=28, help="size of each image dimension")
parser.add_argument("--channels", type=int, default=1, help="number of image channels")
parser.add_argument("--n_critic", type=int, default=5, help="number of training steps for discriminator per iter")
parser.add_argument("--clip_value", type=float, default=0.01, help="lower and upper clip value for disc. weights")
parser.add_argument("--sample_interval", type=int, default=400, help="interval betwen image samples")
opt = parser.parse_args()
print(opt)
img_shape = (opt.channels, opt.img_size, opt.img_size)
cuda = True if torch.cuda.is_available() else False
class Generator(nn.Module):
def __init__(self):
super(Generator, self).__init__()
def block(in_feat, out_feat, normalize=True):
layers = [nn.Linear(in_feat, out_feat)]
if normalize:
layers.append(nn.BatchNorm1d(out_feat, 0.8))
layers.append(nn.LeakyReLU(0.2, inplace=True))
return layers
self.model = nn.Sequential(
*block(opt.latent_dim, 128, normalize=False),
*block(128, 256),
*block(256, 512),
*block(512, 1024),
nn.Linear(1024, int(np.prod(img_shape))),
nn.Tanh()
)
def forward(self, z):
img = self.model(z)
img = img.view(img.shape[0], *img_shape)
return img
class Discriminator(nn.Module):
def __init__(self):
super(Discriminator, self).__init__()
self.model = nn.Sequential(
nn.Linear(int(np.prod(img_shape)), 512),
nn.LeakyReLU(0.2, inplace=True),
nn.Linear(512, 256),
nn.LeakyReLU(0.2, inplace=True),
nn.Linear(256, 1),
#去除掉sigmoid
)
def forward(self, img):
img_flat = img.view(img.shape[0], -1)
validity = self.model(img_flat)
return validity
# Initialize generator and discriminator
generator = Generator()
discriminator = Discriminator()
if cuda:
generator.cuda()
discriminator.cuda()
# Configure data loader
os.makedirs("../../data/mnist", exist_ok=True)
dataloader = torch.utils.data.DataLoader(
datasets.MNIST(
"../../data/mnist",
train=True,
download=True,
transform=transforms.Compose([transforms.ToTensor(), transforms.Normalize([0.5], [0.5])]),
),
batch_size=opt.batch_size,
shuffle=True,
)
# Optimizers
optimizer_G = torch.optim.RMSprop(generator.parameters(), lr=opt.lr)
optimizer_D = torch.optim.RMSprop(discriminator.parameters(), lr=opt.lr)
Tensor = torch.cuda.FloatTensor if cuda else torch.FloatTensor
# ----------
# Training
# ----------
batches_done = 0
for epoch in range(opt.n_epochs):
for i, (imgs, _) in enumerate(dataloader):
# Configure input
real_imgs = Variable(imgs.type(Tensor))
# ---------------------
# Train Discriminator
# ---------------------
optimizer_D.zero_grad()
# Sample noise as generator input
z = Variable(Tensor(np.random.normal(0, 1, (imgs.shape[0], opt.latent_dim))))
# Generate a batch of images
fake_imgs = generator(z).detach()
# Adversarial loss
loss_D = -torch.mean(discriminator(real_imgs)) + torch.mean(discriminator(fake_imgs))
# 求fake_imgs和real_imgs的判别loss
loss_D.backward()
optimizer_D.step()
# Clip weights of discriminator
#抑制判别器的更新程度
for p in discriminator.parameters():
p.data.clamp_(-opt.clip_value, opt.clip_value)
# Train the generator every n_critic iterations
if i % opt.n_critic == 0:
#因为对D使用了更新抑制
#所以原本更新过快的D，反而滞后了
#所以使用隔几个批次，才训练一次G
# -----------------
# Train Generator
# -----------------
optimizer_G.zero_grad()
# Generate a batch of images
gen_imgs = generator(z)
# Adversarial loss
loss_G = -torch.mean(discriminator(gen_imgs))
loss_G.backward()
optimizer_G.step()
print(
"[Epoch %d/%d] [Batch %d/%d] [D loss: %f] [G loss: %f]"
% (epoch, opt.n_epochs, batches_done % len(dataloader), len(dataloader), loss_D.item(), loss_G.item())
)
if batches_done % opt.sample_interval == 0:
save_image(gen_imgs.data[:25], "images/%d.png" % batches_done, nrow=5, normalize=True)
batches_done += 1
minist测试
在测试中发现，其实WGAN的训练过程十分缓慢，这是采用梯度裁剪带来的副作用，至于如何解决此问题且听下回分解。