1.ロジスティック回帰モデルの仮説は次のとおりです。 ここで、Xは特徴ベクトルを表し、gはロジスティック関数(ロジスティック関数)は一般的に使用されるS字型ロジスティック関数です。式は次のとおりです。ロジスティック関数のイメージは次のとおりです。
G(z)の関数の値の範囲は0〜1であることから、これを理解することがある:所与の入力変数に対して、出力変数= 1(確率推定確率が)される 選択されたパラメータに基づいて算出します。所与のためにたとえば、X、時間θ X = 0.7がされ決定されたパラメータにより算出、その70%の確率があることを意味し、yは正のカテゴリでは、対応する確率ことyが負のカテゴリでは、1- 0.7 = 0.3。
2.モデル関数を決定した後、損失関数を決定する必要があります。損失関数は、モデルの出力と実際の出力の差を測定するために使用されます。
2つのラベル1と0のみを想定すると、 。収集されたサンプルのセットをイベントと見なす場合、このイベントが発生する確率はpと見なされます。モデルyの値は、ラベルが1である確率(p)に等しくなります。
ラベルは1または0であるため、ラベルが0になる確率は次のとおりです。
単一のサンプルをイベントと見なすと、このイベントが発生する確率は次のようになります。
この関数は計算が簡単ではなく、次と同等です。
この関数の意味を説明するために、サンプルを収集しました。このサンプルでは、そのラベルがである確率を収集しました 。(y = 1の場合、結果はpです。y= 0の場合、結果は1-pです)。
合計Nのデータセットを収集する場合、この結合されたイベントの合計確率を見つける方法は?実際、各サンプルの発生確率、つまりこのサンプルのセットを収集する確率を乗算するだけで十分です。
連続乗算は非常に複雑であるため、両側の対数を使用して、連続乗算を連続加算形式に変換します。
その中で
この関数は 、損失関数と も呼ばれます。損失関数は、現在のモデルの出力結果と実際の出力結果の差を測定する関数として理解できます。ここでの損失関数の値は、イベントの発生確率の合計に等しく、大きいほど良いことを願っています。しかし、それは損失の意味とは少し反対なので、前に負の記号を付けることもできます。など:
3.上記によれば、ロジスティック回帰の勾配損失関数がわかっているので、正しい偏導関数を見つけることで勾配関数を取得できます。
で導出、以下を得ることができます。
4.上記によれば、ロジスティック回帰の定義は次のようになります。
目的関数:
コスト関数:
勾配関数:
最急降下法:
最急降下法は次のとおりです。
その中には学習率があり、0.01、0.03、0.1、0.3、1、3、10から選択できます。