差分word2vecと手袋モデル

2019年9月9日午前15時36分13秒

問題の説明： word2vecと手袋の両方の違いは何ですか単語埋め込むアルゴリズムを生成します。

問題解決：

手袋word2vec（単語表現のためのグローバルベクトル）は、語彙の二つのモデル「共起共起」情報、ベクターにコードされたワード（いわゆる共起、即ちコーパス語彙と共に出現頻度）に基づくことができます。

最も直感的な違いは、word2vecは「予測」モデルである、ということである、と手袋は、「カウント・ベース」モデルです両方。

word2vecグローブ及びアルゴリズムの観点から、それらは損失が異なる差を計算します。

ネイティブw2vため、クロスエントロピーの損失は損失です。

X-の前記共起行列Xを構築するために必要であり、それのために手袋_のijは以下の式にiとjの同時発生の数、損失を示します。

 

f（x）は重み関数である場合、Xの_のijは  0に等しく、F（X）= 0、とするとき、Xと_のIJ  過度の時間、F（X）= 1。