GANでNLP

GANは直接NLPで使用することができないのはなぜ?

実数値の画像を生成するランダムベクトルマッピング変換を用いて行われる連続プロセスです。したがって、エラー識別器は、対向伝搬発生器であってもよいです。

自然言語処理において、エンコーダは、テキストデコード処理を生成し、単語モデルを生成するプロセスは、最大ワード確率を選択し、それは配信ネットワークの全体現在出力中の単語の確率に基づいて、選択された語彙のプロセスに実際にあります。プロセスARGMAX単語の選択は、離散的なプロセスであり、非導電性です。このように、Gの勾配バックプロパゲーションDによって、そうGは、パラメータは更新されないではありません。

テキストGANソリューション:

ソフトマックスは、識別器生成を渡さ1.直接確率後、サンプルはバックプロパゲーションすることができませんARGMAX

2.戦略勾配政策ネットワーク

3. Gumble、ソフトマックス

おすすめ

転載: www.cnblogs.com/jiangyaju/p/10960785.html
おすすめ