ロジスティック回帰理論の要点

ロジスティック回帰
線形回帰は、実際のフラグを合わせて機能の線形結合である、論理回帰、対数確率いる確率実施形態の機能は、実際のマーカーの線形結合にフィット
 
= F(X)= 11 +電子θTxP(Y = 1 | x)は既知の入力x、F(X)= 11での= +電子θTxケース。| P(X、Y = 1)を想定したモデル入力のこの種の確率を決定するためには数1です。
あなたは、確率Pを取得したい場合は、B。この確率モデルでは、唯一のパラメータが分からないθTθT。
C。パラメータを取得する方法をθTθT、パラメータの値を推定する必要があります。パラメータ推定方法は、モデルで使用され、未知のパラメータの最尤推定を知られています。
D.パラメータを推定する最尤推定法場合は、尤度関数が与えられる必要があります。トレーニングモデルを通じて、尤度関数はどのように表現しますか?最尤推定機能を表現する方法に問題
 
 
 
 

ロジスティック回帰、ソフトマックスリターン、最大エントロピーモデル
対数線形モデル、ロジスティック回帰、回帰ソフトマックス条件付き確率モデル、Nベルヌーイ量分布、所望の、線形モデルに対する最大エントロピー主題、特徴間の独立性を仮定属します。
 
ロジスティック回帰:分類は、分類および回帰の問題であり、ロジスティック回帰は、複数の角度、および最小対数確率解釈損失は、直接の線形回帰は、その個別のバイナリ分類を理解していることを理解することができます。勾配降下法による最尤推定によりその後ベルヌーイオベイロジスティック回帰は、損失を低減します。
 
クロスエントロピー:2つの確率分布間の距離、または確率q pが困難、予測値Qの程度の発現の確率です。
相互情報:2つのランダム変数の相関の大きさは、変数が知られており、他の変数は、不確実性の減少度であります
相対エントロピー(KLダイバージェンス):差の確率分布p(X)、Q(x)を有する2つの確率変数、によりP-近似確率qに情報損失量
JS発散:類似度メトリック2つの対称的な分布の尺度。
 
 

おすすめ

転載: www.cnblogs.com/Christbao/p/12022177.html