LSTM(长短时记忆)简记

        不同于GRU的两个门,LSTM有三个门。两者的出现时间LSTM更靠前,GRU可以看做在LSTM基础上的简化版,它更简单。

是更新门(update)、是遗忘门(forget)、是输出门(output),其他参数的可以类比之前写的GRU简记

13931179-4249a7e6fd8be8d8.png
LSTM各参数计算公式
13931179-344a519b23617378.png
LSTM单元示意图


13931179-6208c3f868075343.png
多个LSTM单元之间的连接


13931179-77f3bc12c3d8cdd4.png
网上找的LSTM单元之间的连接示意图2


13931179-d9da5b8b774d58cf.png
上图图例

总之GRU结构更简单,因为它只有两个门,适合构建更大型的网络。LSTM具有三个门,所以更灵活,更强大。

另一篇关于LSTM很详细的一篇译文文章

猜你喜欢

转载自blog.csdn.net/weixin_34043301/article/details/86781385