Notes 1-Markov Chain- Classificaiopn

In brief

Markov Chain是安德烈·马尔可夫(A.A.Markov,1856-1922)提出的,用来研究随机过量的状态空间中,各个状态相互转换的规律的数学表示方法。

如图是从度娘那儿刨来的一个描述天气状态转换的图,每个有向箭头都表示了初始状态到目的状态的转换,箭头线上的数字则是发生这种状态转换的概率。Markov就是研究如何用数学的方法(全概率公式,随机过程,转移概率,转移概率矩阵)来描述满足某种条件下的状态转移规律。

Preliminary

随机过程

既然Markov是描述状态变换规律的,那么状态在数学中是什么形式呢?要知道这个,我们得先定义一个拥有状态的“随机过程”

比如说“天气”有三种状态(雨天、晴天、多云),而且“天气”的状态肯定是在某一时刻或时间段内发生的,比如说:“今天的天气”是“雨天”,“昨天的天气”是“晴天”等等,所以我们可以看到“雨天”、“晴天”、“多云”的每个状态一定是基于“天气在不同时间的状态”的情况。在数学上,可以把“天气在不同时间的状态”当成一个事件随时间变化的“过程”,而且这个过程在不同时间上有随机发生的不同状态,因而这个过程也叫做“随机过程”知道一个事件是随机过程就可以用Markov来描述它的状态转换规律了么?当然,不行了?为什么,因为数学是一门精细的学科,描述问题也一定要有理有据。根据现有的数学工具,数学家们要想某随机过程的转换规律,既然是规律,那么一定是经时间不变的,是哪一种时间不变呢,“前天”到“昨天”的晴天转雨天和“今天”到“明天”的晴天转雨天发生的是一样的概率么?因而数学家们必须规定一个前提,满足该前提的随机过程,才能用Markov链来描述它的状态转移规律。

Markov过程

数学上,将可用Markov chain来描述其状态转移规律的随机过程叫Markov过程,该过程必须满足无记忆性,即以下条件:

Markov过程{X(t),t属于T}的无记忆性:


其中,随机过程在t时刻的事件X(t)的取值x就是X在t时的状态。上面等式说明的就是在给定当前状态的情况下,过去(即当前以前的历史状态)对于预测将来(即当前以后的未来状态)没有影响。即将来的状态只和当前状态有关满足了无记忆性的Markov过程在数学上还具有另外一个性质,独立增量性,这对于后面描述Markov状态转移很关键。

Markov过程{X(t),t属于T}的独立增量性:


以上一连串严谨的数学公式是为了证明,Markov过程具有独立且同时时间段的事件增量(比如:“前天的天气”到“昨天的天气”、“今天的天气”到“明天的天气”这两种时间状态的转移都是以一天的时间为单位的,而且这两个时间是不重叠即独立的),当这两个独立时间段的转移概率也是独立的。

扫描二维码关注公众号,回复: 879403 查看本文章

Markov Chain

Markov链的定义:拥有离散(有限集合)状态值的Markov过程的状态空间。喂喂喂?不是说它是用来描述状态转移规律的嘛,怎么只有一个状态空间,不急,通过前面对于Markov过程的铺垫,我们可以利用它的无记忆性和独立增量性等等来推出它们特有的状态转移规律,而这些规律其实就是一堆由一个状态到另外一个状态的转移概率定义的,所以有了包含某一Markov过程所有状态的状态空间,其实就已经包含了其转移概率的信息在里面。

不急,在介绍如何从它Markov过程的无记忆性和独立增量性推出转移概率之前,我们先介绍关于Markov链的几个基本概念:

均匀时间的Markov链:

这个式子描述了均匀事件的状态转移概率和时间无关,只和有关。

离散时间Markov链(DTMC):

表示有限且离散的状态空间中,状态的转移发生在整数时间点上

连续时间Markov链(CTMC):

表示有限且离散的状态空间中,状态的转移发生在任意时间点上



猜你喜欢

转载自blog.csdn.net/weixin_41705973/article/details/79833970
今日推荐