这里就不更新上一文中LSTM情感分类问题了，
它只是网络结构中函数，从而提高准确率。
这一篇更新自编码器的图像重建处理，
网络结构如下：
代码如下：
1 import os 2 import numpy as np 3 import tensorflow as tf 4 from tensorflow import keras 5 from tensorflow.keras import layers, losses, optimizers, Model, Sequential 6 from PIL import Image 7 import matplotlib.pyplot as plt 8 9 batchsz = 128 # 批量大小 10 h_dim = 20 # 中间隐藏层维度 11 lr = 0.001 12 13 # 加载Fashion MNIST 图片数据集 14 (x_train, y_train), (x_test, y_test) = keras.datasets.fashion_mnist.load_data() 15 print('x_train shape:', x_train.shape, tf.reduce_max(y_train), tf.reduce_min(y_train)) 16 # x_train shape: (60000, 28, 28) tf.Tensor(9, shape=(), dtype=uint8) tf.Tensor(0, shape=(), dtype=uint8) 17 print('x_test shape:', x_test.shape) # x_test shape: (10000, 28, 28) 18 19 # 归一化 20 x_train, x_test = x_train.astype(np.float32) / 255., x_test.astype(np.float32) / 255. 21 # 只需要通过图片数据即可构建数据集对象，不需要标签 22 train_db = tf.data.Dataset.from_tensor_slices(x_train) 23 train_db = train_db.shuffle(10000).batch(batchsz) 24 # 构建测试集对象 25 test_db = tf.data.Dataset.from_tensor_slices(x_test) 26 test_db = test_db.shuffle(1000).batch(batchsz) 27 28 29 class AE(Model): 30 # 自编码器模型类，包含了Encoder 和Decoder2 个子网络 31 def __init__(self): 32 super(AE, self).__init__() 33 # 创建Encoders 网络 34 self.encoder = Sequential([ 35 layers.Dense(256, activation=tf.nn.relu), 36 layers.Dense(128, activation=tf.nn.relu), 37 layers.Dense(h_dim)]) 38 # 创建Decoders 网络 39 self.decoder = Sequential([ 40 layers.Dense(128, activation=tf.nn.relu), 41 layers.Dense(256, activation=tf.nn.relu), 42 layers.Dense(784)]) 43 44 def call(self, inputs, training=None): 45 # 前向传播函数 46 # 编码获得隐藏向量h,[b, 784] => [b, 20] 47 h = self.encoder(inputs) 48 # 解码获得重建图片，[b, 20] => [b, 784] 49 x_hat = self.decoder(h) 50 return x_hat 51 52 53 def save_images(imgs, name): 54 # 创建280x280 大小图片阵列 55 new_im = Image.new('L', (280, 280)) 56 index = 0 57 for i in range(0, 280, 28): # 10 行图片阵列 58 for j in range(0, 280, 28): # 10 列图片阵列 59 im = imgs[index] 60 im = Image.fromarray(im, mode='L') 61 new_im.paste(im, (i, j)) # 写入对应位置 62 index += 1 63 # 保存图片阵列 64 new_im.save(name) 65 66 67 def draw(): 68 plt.figure() 69 plt.plot(train_tot_loss, 'b', label='train') 70 plt.plot(test_tot_loss, 'r', label='test') 71 plt.xlabel('Epoch') 72 plt.ylabel('ACC') 73 plt.legend() 74 plt.savefig('exam10.1_train_test_AE.png') 75 plt.show() 76 77 78 # 创建网络对象 79 model = AE() 80 # 指定输入大小 81 model.build(input_shape=(None, 784)) 82 # 打印网络信息 83 model.summary() 84 # 创建优化器，并设置学习率 85 optimizer = optimizers.Adam(lr=lr) 86 # 保存训练和测试过程中的误差情况 87 train_tot_loss = [] 88 test_tot_loss = [] 89 90 91 def main(): 92 for epoch in range(100): # 训练100 个Epoch 93 94 cor, tot = 0, 0 95 for step, x in enumerate(train_db): # 遍历训练集 96 # 打平，[b, 28, 28] => [b, 784] 97 x = tf.reshape(x, [-1, 784]) 98 # 构建梯度记录器 99 with tf.GradientTape() as tape: 100 # 前向计算获得重建的图片 101 x_rec_logits = model(x) 102 # 计算重建图片与输入之间的损失函数 103 rec_loss = tf.nn.sigmoid_cross_entropy_with_logits(labels=x, logits=x_rec_logits) 104 # 计算均值 105 rec_loss = tf.reduce_mean(rec_loss) 106 cor += rec_loss 107 tot += x.shape[0] 108 # 自动求导，包含了2 个子网络的梯度 109 grads = tape.gradient(rec_loss, model.trainable_variables) 110 # 自动更新，同时更新2 个子网络 111 optimizer.apply_gradients(zip(grads, model.trainable_variables)) 112 if step % 100 == 0: 113 # 间隔性打印训练误差 114 print(epoch, step, float(rec_loss)) 115 train_tot_loss.append(cor / tot) 116 117 correct, total = 0, 0 118 for x in test_db: 119 x = tf.reshape(x, [-1, 784]) 120 out = model(x) 121 out_loss = tf.nn.sigmoid_cross_entropy_with_logits(labels=x, logits=out) 122 # 计算均值 123 loss = tf.reduce_mean(out_loss) 124 correct += loss 125 total += x.shape[0] 126 test_tot_loss.append(correct / total) 127 128 if (epoch == 0) or (epoch == 9) or (epoch == 99): 129 # 重建图像 130 # 重建图片，从测试集采样一批图片 131 x = next(iter(test_db)) 132 out_logits = model(tf.reshape(x, [-1, 784])) # 打平并送入自编码器 133 x_hat = tf.sigmoid(out_logits) # 将输出转换为像素值，使用sigmoid 函数 134 # 恢复为28x28,[b, 784] => [b, 28, 28] 135 x_hat = tf.reshape(x_hat, [-1, 28, 28]) 136 # 输入的前50 张+重建的前50 张图片合并，[b, 28, 28] => [2b, 28, 28] 137 x_concat = tf.concat([x[:50], x_hat[:50]], axis=0) 138 x_concat = x_concat.numpy() * 255. # 恢复为0~255 范围 139 x_concat = x_concat.astype(np.uint8) # 转换为整型 140 save_images(x_concat, 'exam10.1_rec_epoch_%d.png' % (epoch+1)) # 保存图片 141 142 143 if __name__ == '__main__': 144 main() 145 draw()
重建效果（Epoch=1, 10, 100）：
训练和测试的准确率：
未完待续。。。。。。