記事ディレクトリ
爬虫類
RNN
LSTM
ゲートを追加するRNN のバリエーション
勾配降下法を使用した LSTM
GD は、機械がこれらの zf と zi を自動的に学習できるようにする簡略化された LSTM のように見えます
。典型的な LSTM の c と x は互いに何の関係もありませんが、GD の LSTM の θ は入力の勾配に関連しています。
利点: 適度なモデル サイズ。一般的な勾配降下法では、すべてのパラメーターが同じ更新ルールを使用します。トレーニングとテストのモデル アーキテクチャは異なる場合があります。
パラメータの更新は、現在の勾配だけでなく、以前の勾配にも依存します。
別の LSTM に参加し、m は以前のデータを保存します
メトリクスベースのアプローチ
学習データとテストデータを同時に入力して結果を出力できるネットワークを学びます。
シャムネットワーク
シャムネットワークによる直感的な解説：二項分類問題「同じですか？」
写真がcnnを通した後に得られるデータは、同じ顔であればよく似ており、違いは遠くなります。
オートエンコーダーは画像のすべてのデータを保持します。
どのくらいの距離を使用すればよいでしょうか?
N-way 少数/ワンショット学習
タスクが「はい/いいえ」の質問ではなく、分類の質問であるとします。
プロトタイプネットワーク
マッチングネットワーク
s 層は、マルチホップの同様のメモリ ネットワークを通過した後に出力を取得します。
関係ネットワーク
別のネットワークを使用して類似度を計算します。
仮想データ上の少数ショット学習
ジェネレーターを使用して、G を介して画像を生成し、複数の画像を生成し、ネットワークに投入します。
RNN としてトレーニング + テスト
埋め込みとカテゴリのワンホット ベクトルを入力すると、学習できません
