【自然语言处理】条件随机场【Ⅴ】条件随机场解码问题

有任何的书写错误、排版错误、概念错误等，希望大家包含指正。

部分推导和定义相关的佐证资料比较少，供参考。讨论的过程中我会加入自己的理解，难免存在错误，欢迎大家讨论。

在阅读本篇之前建议先学习：
隐马尔可夫模型系列
最大熵马尔可夫模型

由于字数限制，分成五篇博客。
【自然语言处理】条件随机场【Ⅰ】马尔可夫随机场
【自然语言处理】条件随机场【Ⅱ】条件随机场概述
【自然语言处理】条件随机场【Ⅲ】条件随机场估计问题
【自然语言处理】条件随机场【Ⅳ】条件随机场学习问题
【自然语言处理】条件随机场【Ⅴ】条件随机场解码问题

3.8. 解码问题

解码时，对于给定的输入序列 $x$​，求出条件概率 $P(y\mid x)$ 最大的输出序列 $y^{\ast }$，即
$$y^{\ast }=\underset{y}{\max }(P_w(y\mid x))$$
由于只需要比较相同观测序列 $x$ 下，条件概率的大小，所以等价于比较非规范化概率的大小，即
$$y^{\ast }=\underset{y}{\max }(w\cdot F(y,x))\text{\hspace{1em}(22)}$$
其中，
$$\begin{array}{rl}w& =(w_1,w_2,\dots ,w_K{)}^T\\ F(y,x)& =(f_1(y,x),f_2(y,x),\dots ,f_K(y,x){)}^T\\ f_k(y,x)& =\sum _{t=1}^T{f}_k(y_{t-1},y_t,x,t),k=1,2,\dots ,K\end{array}$$
对于目标 $(22)$ 可以采用动态规划的方法，更具体的来说，采用维特比算法。由于在隐马尔科夫模型和最大熵马尔可夫模型中多次详细介绍了维特比算法，这里不展开讲解。

定义 ${\delta }_t(i)$：
$${\delta }_t(i)=\underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)+\sum _{k=1}^K{w}_k{f}_k(y_{t-1}=q_j,y_t=q_i,x,t)],i=1,2,\dots ,N\text{\hspace{1em}(23)}$$
定义 ${\psi }_t(i)$ 用于回溯最优路径：
$${\psi }_t(i)=\arg \underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)+\sum _{k=1}^K{w}_k{f}_k(y_{t-1}=q_j,y_t=q_i,x,t)],i=1,2,\dots ,N\text{\hspace{1em}(24)}$$
算法流程大致如下：

$$\begin{array}{ll}\text{输入:}& 模型的K个特征函数f_k和对应的K个权重w_k,观测序列x=(x_1,x_2,\dots ,x_T);\\ \text{过程:}& \end{array}$$

$$\begin{array}{rl}1:& 初始化\\ & \\ & \begin{array}{c}{\delta }_1(i)=\sum _{k=1}^K{w}_k{f}_k(y_0=q_{\mathrm{start}},y_1=q_i,x,t)\},i=1,2,...N\\ {\psi }_1(i)=q_{\mathrm{start}},i=1,2,...N\end{array}\\ & \\ 2:& 递推。对t=2,3,\dots ,T\\ & \\ & \begin{array}{c}{\delta }_t(i)=\underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)+\sum _{k=1}^K{w}_k{f}_k(y_{t-1}=q_j,y_t=q_i,x,t)],i=1,2,\dots ,N\\ {\psi }_t(i)=\arg \underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)+\sum _{k=1}^K{w}_k{f}_k(y_{t-1}=q_j,y_t=q_i,x,t)],i=1,2,\dots ,N\end{array}\\ & \\ 3:& 终止\\ & \\ & \begin{array}{c}{D}^{\ast }=\underset{y}{\max }(w\cdot F(y,x))=\underset{1\le i\le N}{\max }[{\delta }_T(i)]\\ y_T^{\ast }=\arg \underset{1\le i\le N}{\max }[{\delta }_T(i)]\end{array}\\ & \\ 4:& 最优路径回溯。对t=T-1,T-2,\dots ,1\\ & \\ & \begin{array}{cc}& y_t^{\ast }={\psi }_{t+1}(y_{t+1}^{\ast })\end{array}\\ & \\ & 求得最优路径y^{\ast }=(y_1^{\ast },s_2^{\ast },\dots ,y_T^{\ast })\end{array}$$

$$\begin{array}{lccccccccccccccccccccc}\text{输出:}最优路径y^{\ast }=(y_1^{\ast },y_2^{\ast },\dots ,y_T^{\ast })& & & & & & & & & & & & & & & & & & & & & \end{array}$$

算法 1    维特比算法

下面通过一个具体的例子说明维特比算法。依然以上面提到的一个例子为例，有一标注问题：输入观测序列为 $X=(X_1,X_2,X_3)$，输出状态序列为 $Y=(Y_1,Y_2,Y_3)$，$Y_1$，$Y_2$，$Y_3$ 取值于 { 1 , 2 } \{1,2\} { 1,2}。只表明特征值为 $1$ 的条件，取值为 $0$ 的条件忽略，则有
$$\begin{array}{lc}{t}_1(y_1=1,y_2=2,x,2),& {\lambda }_1=1\\ t_2(y_2=1,y_3=2,x,3),& {\lambda }_2=1\\ t_3(y_1=1,y_2=1,x,2),& {\lambda }_3=0.6\\ t_4(y_2=2,y_3=1,x,3),& {\lambda }_4=1\\ t_5(y_1=2,y_2=1,x,2),& {\lambda }_5=1\\ t_6(y_2=2,y_3=2,x,3),& {\lambda }_6=0.2\\ & \\ s_1(y_1=1,x,1),& {\mu }_1=1\\ s_2(y_1=2,x,1),& {\mu }_2=0.5\\ s_3(y_2=2,x,2),& {\mu }_3=0.5\\ s_4(y_2=1,x,2),& {\mu }_4=0.8\\ s_5(y_3=1,x,3),& {\mu }_5=0.8\\ s_6(y_3=2,x,3),& {\mu }_6=0.5\end{array}$$
利用维特比算法求解给定的观测 $x$ 对应的最优路径（状态序列）：

初始化
$$\begin{array}{lc}{\delta }_1(1)={\mu }_1=1& {\psi }_1(1)=q_{\mathrm{start}}\\ {\delta }_1(2)={\mu }_2=0.5& {\psi }_1(2)=q_{\mathrm{start}}\end{array}$$
递推
δ 2 ( 1 ) = max ⁡ { δ 1 ( 1 ) + λ 3 + μ 4 ,    δ 1 ( 2 ) + λ 5 + μ 4 } = max ⁡ { 1 + 0.6 + 0.8 , 0.5 + 1 + 0.8 } = 2.4 ψ 2 ( 1 ) = 1 δ 2 ( 2 ) = max ⁡ { δ 1 ( 1 ) + λ 1 + μ 2 ,    δ 1 ( 2 ) + μ 3 } = max ⁡ { 1 + 1 + 0.5 , 0.5 + 0.5 } = 2.5 ψ 2 ( 2 ) = 1 \begin{array}{l} \delta_2(1) = \max\{\delta_1(1)+\lambda_3+\mu_4,\;\delta_1(2)+\lambda_5+\mu_4\}=\max\{1+0.6+0.8, 0.5+1+0.8\}=2.4 &\psi_2(1) = 1\\ \delta_2(2) = \max\{\delta_1(1)+\lambda_1+\mu_2,\;\delta_1(2)+\mu_3\}=\max\{1+1+0.5, 0.5+0.5\}=2.5 &\psi_2(2) = 1\\ \end{array} δ2​(1)=max{ δ1​(1)+λ3​+μ4​,δ1​(2)+λ5​+μ4​}=max{ 1+0.6+0.8,0.5+1+0.8}=2.4δ2​(2)=max{ δ1​(1)+λ1​+μ2​,δ1​(2)+μ3​}=max{ 1+1+0.5,0.5+0.5}=2.5​ψ2​(1)=1ψ2​(2)=1​

δ 3 ( 1 ) = max ⁡ { δ 2 ( 1 ) + μ 5 ,    δ 2 ( 2 ) + λ 4 + μ 5 } = max ⁡ { 2.4 + 0.8 , 2.5 + 1 + 0.8 } = 4.3 ψ 3 ( 1 ) = 2 δ 3 ( 2 ) = max ⁡ { δ 2 ( 1 ) + λ 2 + μ 6 ,    δ 2 ( 2 ) + λ 6 + μ 6 } = max ⁡ { 2.4 + 1 + 0.5 , 2.5 + 0.2 + 0.5 } = 3.9 ψ 3 ( 2 ) = 1 \begin{array}{l} \delta_3(1) = \max\{\delta_2(1)+\mu_5,\;\delta_2(2)+\lambda_4+\mu_5\}=\max\{2.4+0.8, 2.5+1+0.8\}=4.3 &\psi_3(1) = 2\\ \delta_3(2) = \max\{\delta_2(1)+\lambda_2+\mu_6,\;\delta_2(2)+\lambda_6+\mu_6\}=\max\{2.4+1+0.5, 2.5+0.2+0.5\}=3.9 &\psi_3(2) = 1\\ \end{array} δ3​(1)=max{ δ2​(1)+μ5​,δ2​(2)+λ4​+μ5​}=max{ 2.4+0.8,2.5+1+0.8}=4.3δ3​(2)=max{ δ2​(1)+λ2​+μ6​,δ2​(2)+λ6​+μ6​}=max{ 2.4+1+0.5,2.5+0.2+0.5}=3.9​ψ3​(1)=2ψ3​(2)=1​

最终得到 $y_3^{\ast }=1$，回溯可得
$$\begin{gathered} y_2^{\ast }={\psi }_3(1)=2 \\ {y}_1^{\ast }={\psi }_2(2)=1 \end{gathered}$$
故最优路径为 $(1,2,1)$。

遗留问题：

1. 关于前向向量与后向向量的形式化定义，我无法确定形式正确。
2. 李航书中 $P(Y_i=y_i\mid x)$ 和 $P(Y_{i-1}=y_{i-1},Y_i=y_i\mid x)$ 关于前向后向向量的定义，即式 $(11.32)$ 和 $(11.33)$，我认为二者是错误的。
3. 李航书中算法 $T$ 的式 $(11.47)$ 的具体推导，以及推导中符号的详细定义。

REF

[1]《统计学习方法（第二版）》李航著

[2]《机器学习》周志华著

[3]《百面机器学习》诸葛越等著

[4] Lafferty J, McCallum A, Pereira F C N. Conditional random fields: Probabilistic models for segmenting and labeling sequence data[J]. 2001.

[5] 条件随机场CRF(二) 前向后向算法评估标记序列概率 - 博客园

[6] 条件随机场CRF(三) 模型学习与维特比算法解码 - 博客园

[7] 机器学习-条件随机场 - 哔哩哔哩

[8] 中文命名实体识别_03_动态规划之美_HMM&CRF中的前向/后向算法推导 - 知乎

[9] Random field - Wikipedia