通过TensorBoard将TensorFlow模型的训练过程进行可视化的展示出来，将训练的损失值随迭代次数的变化情况，以及神经网络的内部结构展示出来，以此更好的了解神经网络。
一、 建立图
通过添加一个标量数据和一个直方图数据到log文件里，然后通过TensorBoard显示出来，第一步加到summary,第二步写入文件。
将模型的生成值加入到直方图数据中（直方图名字为z），将损失函数加入到标量数据中（标量名字叫做loss_function）。
下面的代码就是在启动session之后创建一个summary_writer,在迭代中将summary的值运行出来，并且保存在文件里面
代码如下：
# -*- coding: utf-8 -*-
# !/usr/bin/env python
# @Time : 2019/5/16 9:47
# @Author : xhh
# @Desc : 线性回归的TensorBoard
# @File : tensor_tensorBoard.py
# @Software: PyCharm
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
plotdata = {"batchsize":[], "loss":[]}
def moving_average(a, w=10):
if len(a)<w:
return a[:]
return [val if idx < w else sum(a[(idx-w):idx])/w for idx, val in enumerate(a)]
# 模拟数据
train_X = np.linspace(-1, 1, 100)
train_Y = 2*train_X + np.random.randn(*train_X.shape)*0.3 # 加入了噪声
# 图形展示
plt.plot(train_X,train_Y,'ro',label="original data") # label数据标签
plt.legend()
plt.show()
tf.reset_default_graph() # 重置会话
# 创建模型
# 占位符
X = tf.placeholder("float")
Y = tf.placeholder("float")
# 模型参数
W = tf.Variable(tf.random_normal([1]), name="weight")
b = tf.Variable(tf.zeros([1]), name="bias")
# 前向结构
z = tf.multiply(X, W) +b
tf.summary.histogram('z',z) #将预测值以直方图显示
# 反向优化
cost = tf.reduce_mean(tf.square(Y-z))
tf.summary.scalar('loss_function', cost) #将损失以标量显示
learning_rate = 0.01
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(cost)
# 初始化变量
init = tf.global_variables_initializer()
# 参数设置
training_epochs = 20
display_step = 2
saver = tf.train.Saver() # 模型生成，并保存
savedir = "log/"
# 启动session
with tf.Session() as sess:
sess.run(init)
merged_summary_op = tf.summary.merge_all() # 合并所以summary
# 创建summary_writer,用于写文件
summary_writer = tf.summary.FileWriter('log/mnist_with_summaries', sess.graph)
for epoch in range(training_epochs):
for (x, y) in zip(train_X,train_Y):
sess.run(optimizer, feed_dict={X:x, Y:y})
# 生成summary
summary_str = sess.run(merged_summary_op, feed_dict={X:x, Y:y})
summary_writer.add_summary(summary_str, epoch) # 将summary写入文件
# 显示训练中的详细信息
if epoch % display_step == 0:
loss = sess.run(cost, feed_dict={X:train_X, Y:train_Y})
print("Epoch:",epoch+1,"cost=", loss,"W=",sess.run(W),"b=",sess.run(b))
if not (loss=="NA"):
plotdata["batchsize"].append(epoch)
plotdata["loss"].append(loss)
print("finished!")
saver.save(sess, savedir+"linermodel.cpkt")
print("cost=",sess.run(cost, feed_dict={X:train_X, Y:train_Y}),"W=", sess.run(W),"b=",sess.run(b))
# 图形显示
plt.plot(train_X, train_Y, 'ro', label='Original data')
plt.plot(train_X, sess.run(W) * train_X + sess.run(b), label='Fitted line')
plt.legend()
plt.show()
plotdata["avgloss"] = moving_average(plotdata["loss"])
plt.figure(1)
plt.subplot(211)
plt.plot(plotdata["batchsize"], plotdata["avgloss"], 'b--')
plt.xlabel('Minibatch number')
plt.ylabel('Loss')
plt.title('Minibatch run vs. Training loss')
plt.show()
print("x=0.2, z=",sess.run(z, feed_dict={X: 0.2}))
最终的运行结果，下面贴出在建模过程中拟合线性模型的变化，以及它的损失值的变化：
下图三个折线图就是在拟合模型时损失函数的变化，分别是在第2,8,19次的变化。散点图就是最终拟合出来的模型。
下图就是在运行之后多出的可视化文件：
进入该文件夹，输入cmd,激活你带有TensorFlow-gpu版本的python环境
然后输入：
地址需要变化一下，后面的端口改成8080，我的默认的6006访问不了。
tensorboard --logdir F:\code\tensor_test\log\mnist_with_summaries --port=8080最终运行后的结果如下：
然后打开谷歌浏览器（最好是谷歌），输入http://localhost:8080访问就可以看到了：
损失值随迭代次数的变化情况：
神经网络内部结构：
单击SCALARS，会看到之前创建的loss_function，点开后可以看到损失值随迭代次数的变化情况。如上图。
二、可能会出现的问题
(1) 在cmd时可能会出现这样的问题：
上面的是因为没有对应的TensorFlow-gpu的python所以访问不了。
（2）TensorFlow-GPU，python环境的问题
我的是下图的Python==3.6.2， tensorflow-gpu==1.13.1
python环境和tensorflow-gpu版本不兼容，所以出现下面的问题，最好将python环境换成了python=3.6.7，并且安装TensorFlow-gpu=1.13.1,之后运行成功了
（3）访问问题
在用127.0.0.1:6006,访问时出现拒绝访问，如下：
是因为本机的默认ip地址为localhost所以访问不了，换成localhost可以访问。
在或着可能出现6006端口访问不了，这时就需要在后面给上指定IP=8080，然后访问就OK了。
大家可以关注我和我小伙伴的公众号~~~这里有我和我的小伙伴不定时的更新一些python技术资料哦！！大家也可以留言，讨论一下技术问题，希望大家多多支持，关注一下啦，谢谢大家啦~~
