学习资料
0.莫凡循环神经网络(入门,先看看对这个有初步的了解)
https://morvanzhou.github.io/tutorials/machine-learning/ML-intro/2-3-RNN/
0.莫凡LSTM长短期记忆网络(入门,先看看对这个有初步的了解)
https://morvanzhou.github.io/tutorials/machine-learning/ML-intro/2-4-LSTM/
1.YJango的循环神经网络——介绍(理论公式,从这篇博客开始看,对循环神经网络有一定了解)
https://zhuanlan.zhihu.com/p/24720659
2.深度学习之RNN、LSTM及正向反向传播原理(理论公式,重点看,这篇博客对循环神经网络的讲解更为专业,更精确到技术细节)
https://zhuanlan.zhihu.com/p/36075340
但是这篇博客对RNN反向传播算法的推导的讲解不是很好。
这篇博客参考的是这篇:
RNN介绍,较易懂(这篇博客主要讲的是LSTM,但是它里面给出的讲RNN的英文博客讲得很好):
https://blog.csdn.net/xiaocao9903/article/details/78583953
3.GIF动图一步一步看懂LSTM和GRU(在看完2.的博客后看,动图理解得更加深入,有示例代码)
https://zhuanlan.zhihu.com/p/81549798
4.YJango的循环神经网络——实现LSTM(理论公式)
https://zhuanlan.zhihu.com/p/25518711
问题
question1:
pointwise乘法操作具体是指什么?
LSTM的一个改变细胞状态的操作,不是很懂
https://www.zhihu.com/question/66868839/answer/349371943
就是矩阵的点积。