13、PyTorch教程---循环神经网络(Recurrent Neural Network,RNN)

循环神经网络(Recurrent neural networks,RNN)是一种深度学习导向的算法类型,它采用了一种顺序化的方法。在神经网络中,我们通常假设每个输入和输出都独立于所有其他层。这种类型的神经网络被称为循环神经网络,因为它们以顺序的方式执行数学计算,依次完成一个任务后再进行下一个。

下面的图示说明了循环神经网络的完整方法和工作原理 -

在上图中,c1、c2、c3和x1被视为输入,其中包括一些隐藏输入值,即h1、h2和h3,它们产生了相应的输出o1。现在,我们将专注于使用PyTorch实现循环神经网络来创建正弦波。

在训练过程中,我们将采用一种一次处理一个数据点的训练方法。输入序列x包含20个数据点,目标序列被认为与输入序列相同。

步骤 1
使用以下代码导入实现循环神经网络所需的必要包 -

import torch
from torch.autograd import Variable
import numpy as np
import pylab as pl
import torch.nn.init as init

步骤 2
我们将设置模型的超参数,将输入层的大小设置为7。将有6个上下文神经元和1个输入神经元用于创建目标序列。

dtype = torch.FloatTensor
input_size, hidden_size, output_size = 7, 6, 1
epochs = 300
seq_le

猜你喜欢

转载自blog.csdn.net/Knowledgebase/article/details/133310764