非线性回归

import tensorflow as tf
import matplotlib.pyplot as plt
import numpy as np

x_data = np.linspace(-0.5,0.5,200)[:,np.newaxis] # 产生一维数组，里面是-0.5到0.5的200个数，然后把它弄成二维的，即一个200行1列的矩阵
noise=np.random.normal(0,0.02,x_data.shape) # 产生200行1列矩阵，里面都是随机值
y_data =np.square(x_data)+noise

# 定义2个placeholder
x = tf.placeholder(tf.float32,[None,1]) # 定义为1列，不固定行
y = tf.placeholder(tf.float32,[None,1])

# 定义神经网络中间层
Weight_L1=tf.Variable(tf.random_normal([1,10])) # 输入层1个神经元，输出层10个神经元 这个变量会改变
biases_L1=tf.Variable(tf.zeros([1,10])) # 这些变量不断地改变
Wx_plus_b_L1 = tf.matmul(x,Weight_L1)+biases_L1 # 计算信号总和，2个矩阵相乘再加一个东西
L1=tf.nn.tanh(Wx_plus_b_L1) # 定义一个激活函数,L1是中间层的输出

# 定义输出层
Weight_L2=tf.Variable(tf.random_normal([10,1]))
biases_L2=tf.Variable(tf.zeros([1,1,]))
Wx_plus_b_L2=tf.matmul(L1,Weight_L2)+biases_L2 # 此时L1成为输入了
prediction=tf.nn.tanh(Wx_plus_b_L2)

# 二次代价函数
loss = tf.reduce_mean(tf.square(y-prediction))
# 使用梯度下降法开始训练
train = tf.train.GradientDescentOptimizer(0.1).minimize(loss)

with tf.Session() as sess:
sess.run(tf.global_variables_initializer())
for step in range(2000):
sess.run(train,feed_dict={x:x_data,y:y_data}) # 从这里传入值进去

# 获得预测值
prediction_value=sess.run(prediction,feed_dict={x:x_data})
# 画图
plt.figure()
plt.scatter(x_data,y_data)
plt.plot(x_data,prediction_value,'r-',lw=5) # 画的线是红线，线宽为5
plt.show()
# 图中红线是生成的线，蓝色的点是样本点