【LSTM】LSTMを理解する

原文：https://colah.github.io/posts/2015-08-Understanding-LSTMs/

リカレントニューラルネットワーク

人間は毎秒ゼロから思考を始めるわけではありませんし、
毎秒ゼロから思考を始めるわけでもありません。

• ゼロからゼロから

この記事を読むとき、各単語の理解は、前の単語の理解に基づいて行われます。すべてを捨てて一から考えることはできず、思考は継続します。

従来のニューラル ネットワークではこれができず、これが大きな欠点であると思われます。たとえば、映画の各時点でのイベントのカテゴリを分類したいとすると、従来のニューラル ネットワークでは、前の時間を使用して後の時間を推論することができない場合があります。

リカレント ニューラル ネットワークはこの問題を解決します。彼らのネットワークには、情報を永続化できるループがあります。

上の画像では、ニューラル ネットワーク A の入力${バツ}_{}$値$h_{}$. ループを使用すると、あるステップから次のステップに情報を渡すことができます。