隐马尔可夫模型学习总结

1.隐马尔可夫模型简述:

隐马尔可夫模型是用于标注问题的一种 生成模型,是一种关于时序的概率模型。通过由单个观测生成不可观测的状态【即为输入序列进行标注】,然后由得出的这些不可观测状态生成状态序列。马尔可夫由初始概率分布,状态转移概率分布,观测概率分布三者共同决定。
马尔可夫基于两种假设:
1.马尔可夫链所处的状态只跟他相邻时的前一个状态有关,而与其他时刻的状态无关。(齐次马尔可夫性)
2.马尔可夫任意时刻的观测只跟它当前所处的状态有关,而与其他时刻的状态无关。(观测独立假设)

马尔可夫损失函数:对数似然损失(条件概率的对数似然损失)

概率计算:前向-后向算法
学习方法: 1.BW算法(即EM算法,无监督学习方法):1.求Q函数,极大化Q函数求得对应参数【转移概率,观测概率,初始概                   率】
                 2.使用极大似然估计的监督学习方法【缺点在于监督学习需要训练数据,数据量大时人工标注训练数据成本非常大】

预测方法(解码方法):
                  1.维特别算法【基于动态规划】
                2.近似算法:在每个时刻选取最有可能的状态,从而得到状态序列。该方法计算简单,但是没法保证状态    是全局最优可能发生的状态,因为可能预测的状态序列可能有实际不发生的部分。



猜你喜欢

转载自blog.csdn.net/caizd2009/article/details/79520379