CRF修炼秘籍(二)马尔科夫篇

上篇最后提到,马尔科夫随机场就是我们所说的概率无向图模型。

关于马尔克夫先生,我想对于我们工科和理科的同学应该是如雷贯耳的,马尔科夫(Markov)是俄国著名的数学家。马尔可夫预测法是以马尔科夫的名字命名的一种特殊的市场预测方法。马尔可夫预测法主要用于市场占有率和销售期望利润的预测。就是一种预测事件发生的概率的方法。马尔科夫预测讲述了有关随机变量 、 随机函数与随机过程。

2.1经典的马尔科夫随机过程(假设)

即无后效性质,当随机过程在某一时刻to所处的状态已知的条件下,过程在时刻t>to时所处的状态只和to时刻有关,而与to以前的状态无关,则这种随机过程称为马尔科夫过程。 即是:ito为确知,it(t>to)只与ito有关,这种性质为无后效性,又叫马尔科夫假设。

又将每个变量只与前一个变量值有关的过程称为一阶马尔科夫随机过程

2.2马尔科夫性

成对性:在无向图中,若V1,v2这两个点之间没有直接相连的点,则v1,v2独立。

局部性:给定一个点V以及一个点集O(O1,O2。。。On),若V与O之间不存在直接相连的点则V与O独立。

全局性:给定无向图中O和V两个点集,若O与V之间不存在相互连接,则O与V相互独立

这个马尔科夫性有什么用呢,简而言之就是可以用来化简一些条件概率的表示过程

2.3无向图分解

为了表示一个大的无向图的联合分布概率,通常会采取将大图分解为小的“连通图”这样一种方法。那么什么叫连通图,就是指一个图的内部任意两个点都连接在了一起,这简单来表示就是三角形的概念,任意两个顶点之间都有边连接。

例如图七所示的这个图就可以按照如下所示的方法进行分配,(x2,x3,x4)和(x1,x3,x4)当然也可以分解为(x2,x3,x4)(x1,x3)以及其他若干种分法

2.4马尔科夫随机场(无向概率图)

假设令每一个连通图的表达式为,其中C代表连通图的个数,则联合概率分布的表达式可以表示为:

其中,以2.3中的四个节点的无向图为例,联合概率分布可以表示为:

一般表示一个连通图上的联合概率密度的指数函数表示,这个函数也被称为势函数:

最终概率无向图的联合概率分布可以表示为:

具体的公式推导过程如下:

猜你喜欢

转载自blog.csdn.net/weixin_40955254/article/details/81155872