第四讲 反向传播

#引入torch
import torch
#构建数据集
x_data = [1.0,2.0,3.0]
y_data = [2.0,4.0,6.0]
#用torch.Tensor创建一个权重变量，后面的1.0代表只有一个权重
w = torch.Tensor([1.0])
#权重w是需要计算梯度的，设它为真。
w.requires_grad = True
#构建模型
def forward(x):
    return x * w
#计算损失函数
def loss(x,y):
    y_pred = forward(x)
    return (y_pred - y) ** 2


#输出训练前的预测x=4,y=,后面加item()是要输出一个标量。
print("predict (before training)",4,forward(4).item())
#循环100次
for epoch in range(100):
    #用zip拼装送给x,y
    for x,y in zip(x_data,y_data):
        #计算损失，属于前馈过程
        l = loss(x,y)
        #损失函数的反向传播，计算当前梯度。释放计算图。
        l.backward()
        #item直接把梯度里面的数据拿出来，变成一个标量
        print('\tgrad:',x,y,w.grad.item())
        #权重的数据=初始权重的数据-学习率*权重梯度的数据
        w.data = w.data - 0.01 * w.grad.data
        #将权重的梯度的数据清零
        w.grad.data.zero_()
    #输出循环次数和损失,item变标量
    print("progress:",epoch,l.item())
#输出训练后预测，x=4,y=.item标量
print("predict (after training)",4,forward(4).item())