pytorch: grad is None while training

原因可能是网络定义过程中存在没有进行前向计算的层,当计算loss时这些层没有参与运算,因此梯度无法传播到这些层

解决办法:

for p in model.parameters():

if p.grad is not None:

print(p.grad.data)

猜你喜欢

转载自blog.csdn.net/leogo17/article/details/79970938