条件随机场（CRF）知识点总结

条件随机场（CRF）模型在给定一系列随机变量的条件下，另外一组随机变量的概率分布，其特点是假设输出随机变量构成马尔可夫随机场。

1. 随机场

提到随机场，就不得不提及随机过程，因为随机场是随机过程的推广。

随机过程：如果对于某一个固定的 $t_{1} \in T$ ， $X(t_{1})$ 都是随机变量，那么我们称 $X(t)$ 是一个随机过程。直觉上，我们可以把随机过程理解为一族随即变量。并将 $X(t_{1})$ 叫做随机过程 $X(t)$ 在 $t_{1}$ 时刻的状态。

随机场：随机场是随机过程在空间域上的推广。随机过程的基本参数是变量t，而随机场 $X(\textbf{u})$ 的基本参数是位置向量 $\textbf{u} = (x, y, z)$ 。因此，随机场可以视为定义在一个场域参数集上的随机变量系。

2. 马尔可夫随机场

马尔可夫随机场是随机场中的一个特例，它假设随机场中某一个位置的随机变量只和它相邻位置的随机变量有关，而和它不相邻的位置的随机变量无关。

3. 条件随机场

CRF又是马尔可夫随机场的一个特例。直观上，假设我们有两组随机变量X和Y，X已经给出了，而Y属于马尔可夫随机场，则我们称Y为条件随机场。我们给出条件随机场的数学定义：设X与Y是随机变量，P(Y|X)是在给定X的条件下Y的条件概率分布。若随机变量Y构成一个马尔可夫随机场，即 $P(Y_{v}|X,Y_{w},w\neq v)= P(Y_{v}|X,Y_{w},w\sim v)$ 对任意节点v成立，则称条件概率分布P(Y|X)为条件随机场。

4.线性链条随机场

在实际工程应用当中，我们经常会用到条件随机场特例--线性链条随机场。

5. 线性链条件随机场的参数化形式

对于随机变量X和Y，线性链条件随机场的参数形式如下

其中规范场因子Z

扫描二维码关注公众号，回复： 5872815 查看本文章

　　在表达式中的tk、sl 是特征函数（tk 是定义在边上的特征函数，称为转移特征，依赖与当前和前一个位置；sl 是定义在结点上的特征函数，称为状态特征，依赖于当前的位置）。无论是节点特征函数还是局部特征函数，它们的取值只能是0或者1。即满足特征条件或者不满足特征条件。同时，我们可以为每个特征函数赋予一个权值，用以表达我们对这个特征函数的信任度。

　假设我们在某一节点我们有K1K1个局部特征函数和K2K2个节点特征函数，总共有K=K1+K2K=K1+K2个特征函数。我们用一个特征函数来统一表示如下: