深度学习之循环神经网络RNN

本文只是知识的搬运工，将有干货的文章搬运过来进行汇总，传播知识人人有责。

循环神经网络(RNN, Recurrent Neural Networks)介绍

主要分成以下几个部分对RNNs进行介绍： 
1. RNNs的基本介绍以及一些常见的RNNs(本文内容)； 
2. 详细介绍RNNs中一些经常使用的训练算法，如Back Propagation Through Time(BPTT)、Real-time Recurrent Learning(RTRL)、Extended Kalman Filter(EKF)等学习算法，以及梯度消失问题(vanishing gradient problem) 
3. 详细介绍Long Short-Term Memory(LSTM，长短时记忆网络)； 
4. 详细介绍Clockwork RNNs(CW-RNNs，时钟频率驱动循环神经网络)； 
5. 基于Python和Theano对RNNs进行实现，包括一些常见的RNNs模型。
 

完全图解RNN、RNN变体、Seq2Seq、Attention机制

这篇文章主要以图片的方式介绍了rnn以及衍生模型，适合初学者入门，其中的seq2seq讲解的还可以，但是attention并没有详细的介绍，还需要找其他的资料了解一下attention机制。