0.まえがき
マルコフ連鎖は、シャノン通信の離散情報ソースを記述するためのツールとして使用されるため、マルコフ連鎖を完全に理解することは、シャノンの情報理論を理解するための前提条件です。
1.マルコフ連鎖の定義
注釈:
定義は状態空間の容量を指定せず、nはシーケンスの長さです。
タイプAは、2つの隣接する瞬間でのn + 1とnの条件付き確率が、これら2つのステップの確率にのみ関連し、前の確率とは関係がないことを意味します。これは、後遺症なしと呼ばれます。後遺症なし前の状態には現在の状態に対する後遺症がないことが理解できます。
座標(n、i)を持つ状態とステップ数(/シーケンスラベル)、つまりn番目のステップのi番目の状態を使用します。したがって、ランダムシーケンスX(n)の場合、各ステップにはすべての状態があります特定の確率。
同次マルコフ連鎖:
同種マルコフ連鎖の場合、覚えておいてください。行列Pは、同種マルコフ連鎖の最初の遷移行列です。
2.CK方程式
mステップ遷移の確率:
CK方程式:
CK方程式の意味は、(0、i)から(m + r、j)への遷移確率の場合、その値は(0、i)から(m、k)に等しく、次に(m 、k)から(m + r、jのすべてのパスの確率の合計)。ここで、kは状態空間で可能なすべての値です。
定理は自分で描くことで証明でき、式は以下のとおりです。
均一マルコフ連鎖の場合、遷移確率は時間/ステップ数とは関係ありません。上記の式は要素ijに対するものであり、CK方程式は行列形式で記述されます。これは次の形式で記述できます。