1.ベイズパラメータ推定
確率と統計
- 確率：所定のデータ生成処理における観測データの性質、モデル及びパラメータ - >トランザクション、推理
- 統計：観測されたデータは、そのデータ生成処理の反対を考慮し、データ - >モデルとパラメータ：誘導
- 関係：確率理論は統計の数学的基礎であり、統計は確率論を応用したものです。
記述統計と推測統計
- 記述統計：観測の概要は描写や、基本的な条件（平均、分散、中央値、四分位数、など）
- 推測統計：全体的な状況は、データ（パラメトリック統計、ノンパラメトリック統計、推定量、実際の分布、経験分布）が部分データに基づいて取得したと推測しました
「可能性」と「確率」：
- 英語では：可能性（確率）と確率（確率）はすべて、発生した事象の可能性を参照してください。
- 統計において：確率は可能性の結果を予測するためのパラメータを知られている、可能性が知られている結果は、パラメータが特定の値の可能性を予測されています。
- 関数のための\（P（X | \シータ ）\）
- 場合は\（\シータ\）が知られており、変更されません、\（X- \）は変数であり、関数\（P（X | \シータ ）\） と呼ばれる確率関数、異なる表す（X \）\の確率を
- 場合\（X \）が知られており、一定に維持され、\（\シータ\）が可変である、関数\（P（X | \シータは ）\） 異なる表す尤度関数と呼ばれている（\シータ\）\の下\ （X- \）も示さ発生確率、\（L（\シータ| X ）\） または\（L（X; \シータ ）\） または\（F（X; \シータ ）\）
学校と周波数ベイズ
- 学校や角度周波数ベイズは唯一異なるの問題を解決します
- ビューの「自然」の点から周波数学校。モデルの客観的パラメータ固定とみなされ、母集団からのサンプル情報、調査のサンプル情報がサンプルのみを通じて合理的な推論や全体的な情報とよりの見積りを行うことができ、より正確な
- 「オブザーバー」角度からベイジアン。未知のパラメータは、ビューの主観的な点で開始することができる任意の未知数がランダムとみなすことができ、確率で未知のパラメータを記述するために配布されるべきだと思います
- 学校は、最尤推定の頻度を表す。ベイズ最大事後推定値を表します。
- 本体として自信を持ってメイン派確率、ベイズ確率として周波数に周波数
ベイズ式：\（P（A | B）= \ {FRAC P（B | A）}、{P（B）} * P（A）\）
- \（P（A | B）\） Aが発生する条件付き確率であり、Bが知られており、事後確率からBの値をAと呼ばれるため、イベントが発生した後、BはAが発生した場合、信頼性を表します度
- \（P（A）\）事前確率またはAの周辺確率であり、イベントAの信頼度を表します
- \（P（B | A）\） Aが知られた後、A及びBから得られた値を事後確率と呼ばれているため、また、尤度関数と呼ばれるBの発生の条件付き確率です。
- \（P（B）\）事前確率または周辺確率Bであると呼ばれ、正規化定数
- \（\ FRAC {P（B | A）}、{P（B）} \） の標準的な尤度比と呼ばれ、Bは、提供されたイベントAが発生した場合のサポートのレベルを示し
1.2。最尤推定（MLE）
最尤推定パラメータ\（\シータ\）固定値と考えますが、その値は不明です。アイデアを作ることである観測（サンプル）確率\（P（X | \シータ ）\） の最大の\（\シータ\）最高です\（\シータ\） 。
最尤推定解の手順：
- 単一のサンプル尤度を書きます
- 全体的な尤度関数書く\（Lを（X; \シータ ）\）
- 尤度関数のペアの回転数
- 最大対数尤度関数（微分、尤度関数の溶液）を探し
1.3。最大事後確率推定（MAP）
最大尤度関数は、考える\（\シータ\）解く際尤度関数を考慮に加えて、一定の確率分布と、呼ばれる事前分布を（| \シータP（X \は ）\） 、我々はまた、考慮すべきである（\ \シータ\）事前分布\（P（\シータ）は\） 、したがって、と考え| \（\シータP（X P（\シータ）が\）） かかり最大値（\ \シータ\）が最もあります良い\（\シータ\）
- Xの事前分布が\（P（X）\）に固定され、関数が最大化するように変更することができる\（\ FRAC {P（X {P（X）} = | \シータ）P（\シータ）}をP（\シータ| X）\ ）
事後確率推定最大ステップを解きます：
- 事前分布パラメータ決定\を（P（\シータ）\ ） と尤度関数\（L（X; \シータ ）\）
- パラメータを決定する事後分布関数\（L（X; \シータ ）P（\シータ）\）
- 事後分布関数は、対数関数に変換しました
- 最大値を選択する対数関数（デリバティブ、方程式の解）
1.4。ベイズ推定
ベイズ推定は、最大事後推定の拡張であり、この時点で直接パラメータを推定しない\（\シータ\）値が、パラメータが特定の確率分布に従うことができます。最尤推定や最大事後確率推定値が算出されるパラメータ（\ \シータ\）値、およびベイズ推定ではない、ベイズ推定は、最大事後確率推定マップを拡張（A事前分布パラメータ1）方法、にほぼ等しい、等しい\（P（\シータ）\） （前の観察の一連の分布とはX- \（P（X-）\）を無視することはできない）、得られますパラメータの事後分布\（P（\シータ| X-）\）は、算出された目標値、最終値として。また、パラメータ推定、または信頼の精度を評価するために、分散の音量パラメータを定義します。
解手順のベイズ推定：
- パラメータの尤度関数の決定\を（P（X | \シータ ）\）
- 事前分布パラメータ決定\（P（\シータ）を\） 、事後分布は、従来のコンジュゲートされるべきです
- 引数を解決するためのベイズ事後分布の式によると、
- \（P（\シータ| X）= FRAC \ {P（X | \シータ）P（\シータ）} {\ INT P（X | \シータ）P（\シータ）のD \シータ} \）
- ベイズの推定値を得るために、
- \（\ハット{\シータ} = \ INT \ Pシータ（\シータ| X）D \シータ\）
MAP推定値は、最尤推定値に等しい1.5。
場合事前分布（NO先験的情報、今回ベイズアプローチ法に相当する周波数）、MLEに等しいMAP推定。直感的に言えば、それが最も可能性の高い値のいずれかの事前知識の欠如によって特徴づけられます。この場合、私たちは次に先験的乗じ尤度関数に割り当てられ、すべての重み、など、それによって事後確率を得るためには、非常に類似しています。したがって、最尤法は、特別なマップとして見ることができます
データの増加に伴い、先験的には、データの成長の役割は、分布パラメータは、最尤推定値に向かって近づくだろう、ますます弱くなってきています。そして、それは事後アプリオリの推定値と最大尤推定最大凸組み合わせの結果を証明することができます。