马尔可夫链,因安德烈·马尔可夫(A.A.Markov,1856-1922)得名,是指数学中具有马尔可夫性质的离散事件
随机过程。该过程中,在给定当前知识或信息的情况下,过去(即当前以前的历史状态)对于预测将来(即当前以后的未来状态)是无关的。
[1]
原理简介
编辑
马尔可夫链是满足马尔可夫性质的
随机过程。
理论发展
编辑
马尔可夫链通常用来
建模排队理论和统计学中的建模,还可作为信号模型用于
熵编码技术,如
算术编码(著名的
LZMA数据压缩算法就使用了马尔可夫链与类似于算术编码的区间编码)。马尔可夫链也有众多的生物学应用,特别是
人口过程,可以帮助模拟生物人口过程的建模。隐蔽马尔可夫模型还被用于
生物信息学,用以编码区域或
基因预测。
过程
编辑
马尔可夫过程的定义:
⑴设
是一个随机过程,如果在
在
时刻所处的状态为已知时,
以后的状态与它在时刻
之前所处的状态无关,则称具有马尔可夫性。
则称
为
马尔可夫过程。
马尔可夫过程,能为给定样品文本,生成粗略的,但看似真实的文本:他们被用于众多供消遣的“模仿生成器”软件。除此之外,马尔可夫链还被用于谱曲。
详细说明
编辑
马尔可夫链是满足下面两个假设的一种
随机过程:
1、t+l时刻系统状态的
概率分布只与t时刻的状态有关,与t时刻以前的状态无关;
2、从t时刻到t+l时刻的状态转移与t的值无关。一个马尔可夫链模型可表示为=(S,P,Q),其中各元的含义如下:
1)S是系统所有可能的状态所组成的非空的状态集,有时也称之为系统的
状态空间,它可以是有限的、可列的集合或任意非空集。本文中假定S是可数集(即有限或可列)。用小写字母i,j(或Si,Sj)等来表示状态。
2)P是系统的状态转移概率
矩阵,其中Pij表示系统在时刻t处于状态i,在下一时刻t+l处于状态j的概率,N是系统所有可能的状态的个数。对于任意i∈s,有。
3)Q是系统的初始概率分布,qi是系统在初始时刻处于状态i的概率。
基本性质
编辑
马尔可夫链是由一个
条件分布来表示:
这被称为是随机过程中的“转移概率”。这有时也被称作是“一步转移概率”。二、三,以及更多步的转移概率可以导自一步转移概率和马尔可夫性质,同样地,这些式子可以通过乘以转移概率并求k−1次积分来一般化到任意的将来时间n+k。
正定性
状态转移矩阵中的每一个元素被称为状态转移概率,由概率论知识可知,每个状态转移概率皆为正数,用公式即可表示为:
有限性
由概率论知识知,状态转移阵中的每一行状态转移阵中每行相加皆为1,用公式可表示为:
现实应用
编辑蒙特卡洛模型
在现实生活中,鉴于未知参数的
后验分布多为高维、复杂的非常见分布,对这些高维
积分进行计算十分困难,这一困难使得
贝叶斯推断方法在实践中的应用受到很大的限制,在很长一段时间,
贝叶斯推断主要用于处理简单低维的问题,以避免计算上的困难。MCMC(Markov Chain MonteCarlo)方法突破了这一原本极为困难的计算问题,它通过模拟的方式对高维积分进行计算,进而使原本异常复杂的高维积分计算问题迎刃而解,使
贝叶斯方法仅适用于解决简单低维问题的状况大有改观,为
贝叶斯方法的应用开辟了新的道路。
[3]
MCMC——— 马尔科夫链
蒙特卡罗方法产生于19世纪50年代早期,是在贝叶斯理论框架下,通过计算机进行模拟的 MonteCarlo方法,该方法将Markov过程引入到MonteCarlo模拟中,实现随着
抽样分布随机模拟的进行而改变的动态模拟,弥补了传统的
蒙特卡罗积分只能静态模拟的缺陷,是近年来广泛应用的
统计计算方法。
状态统计建模
马尔可夫链通常用来建模排队理论和统计学中的建模,还可作为信号模型用于熵编码技术,如算法编码。
[4]
马尔可夫链最近的应用是在地理统计学(geostatistics)中。其中,马尔可夫链用在基于观察数据的二到三维离散变量的随机模拟。这一应用类似于“克里金”地理统计学(Kriging geostatistics),被称为是“马尔可夫链地理统计学”。这一马尔可夫链地理统计学方法仍在发展过程中。除此之外,马尔科夫链预测法是一种适用于随机过程的科学、有效的动态预测方法。
[5]
其基本原理和方法可用来预测企业产品的市场占有率。
应用示例
马尔可夫链模型主要是分析一个人在某一阶段内由一个职位调到另一个职位的可能性,即调动的概率。该模型的一个基本假设就是,过去的内部人事变动的模式和概率与未来的趋势大体相一致。实际上,这种方法是要分析企业内部人力资源的流动趋势和概率,如升迁、转职、调配或离职等方面的情况,以便为内部的人力资源的调配提供依据。
[6]
它的基本思想是:通过发现过去组织人事变动的规律,以推测组织在未来人员的供给情况。马尔可夫链模型通常是分几个时期收集数据,然后再得出平均值,用这些数据代表每一种职位中人员变动的频率,就可以推测出人员变动情况。
具体做法是:将计划初期每一种工作的人数量与每一种工作的人员变动概率相乘,然后纵向相加,即得到组织内部未来劳动力的净供给量。其基本表达式为:
Ni(t):t时间内I类人员数量;
Pji:人员从j类向I类转移的转移率;
Vi(t):在时间(t-1,t)I内所补充的人员数。
企业人员的变动有调出、调入、平调、晋升与降级五种。表3 假设一家零售公司在1999至2000年间各类人员的变动情况。年初商店经理有12人,在当年期间平均90%的商店经理仍在商店内,10%的商店经理离职,期初36位经理助理有 11%晋升到经理,83%留在原来的职务,6%离职;如果人员的变动频率是相对稳定的,那么在2000年留在经理职位上有11人(12×90%),另外,经理助理中有4人(36×11%)晋升到经理职位,最后经理的总数是15人(11+4)。可以根据这一矩阵得到其他人员的供给情况,也可以计算出其后各个时期的预测结果。