几个常用机器学习算法 - 隐马尔可夫模型

1

先引入一个知乎上看到的例子:

假设你的手中有三个不同的骰子。 
第一个是我们平常都能见到的骰子(称其为D6),6个面,每个面(1,2,3,4,5,6)出现的概率是1/6; 
第二个有4个面(称其为D4),每个面(1,2,3,4)出现的概率是1/4; 

第三个有8个面(称其为D8),每个面(1,2,3,4,5,6,7,8)出现的概率是1/8。


现在你要开始掷骰子了。 
先从三个骰子里挑一个,挑到每一个骰子的概率都是1/3。 
接着掷骰子,得到1,2,3,4,5,6,7,8中的一个点数。 
你不停地重复上述过程,会得到一串数字,每个数字都是1,2,3,4,5,6,7,8中的一个。例如你得到了这么一串数字(掷了10次):1 6 3 5 2 7 3 5 2 4

这串掷出的骰子点数叫做可见状态链。但是在隐马尔可夫模型中,我们不仅仅有这么一串可见状态链,还有一串隐含状态链。 
在这个例子里,这串隐含状态链就是你用的骰子的序列,比如隐含状态链有可能是:D6 D8 D8 D6 D4 D8 D6 D6 D4 D8

一般来说,HMM中说到的马尔可夫链是指隐含状态链,因为隐含状态(骰子)之间存在转换概率(transition probability)。 
在上面的例子中,D6的下一个状态是D4,D6,D8的概率都是1/3。D4,D8的下一个状态是D4,D6,D8的转换概率也都一样是1/3。你可以更改转换概率,那就是新的HMM了。

尽管可见状态之间没有转换概率,但是隐含状态和可见状态之间有一个概率叫做输出概率(emission probability)。 
上面的例子中,六面骰(D6)产生1的输出概率是1/6。产生2,3,4,5,6的概率也都是1/6。

扫描二维码关注公众号,回复: 1824156 查看本文章

而最开始抽到骰子的概率,则是初始状态概率。这里初始抽到三种骰子的概率分别都为1/3.

而我们学习HMM模型,是因为当一个系统可以作为HMM被描述,那么我们就能解决以下三种问题

1)预测问题:你知道了骰子有几种(隐含状态数量),每种骰子是什么(转换概率),骰子掷出的结果(可见状态链),但你想知道每次掷出来的都是哪种骰子(隐含状态链)。

也叫做解码问题。

2)概率计算问题:你知道了骰子有几种(隐含状态数量),每种骰子是什么(转换概率),骰子掷出的结果(可见状态链),但你想知道掷出这个结果的概率。

这个问题看似意义不大,但这个问题可以帮你验证观察到的结果和已知的模型是否吻合;因为如果很多次结果都对应了比较小的概率,那么就说明你已知的模型很有可能是错的,有人偷偷把你的骰子給换了。

3)学习问题:你知道了骰子有几种(隐含状态数量),观测到了很多次掷骰子的结果(可见状态链),但你想反推出每种骰子是什么(转换概率)。

这个问题很重要,因为这是最常见的情况。很多时候我们只有可见结果,不知道HMM模型里的参数,我们需要从可见结果估计出这些参数,这是建模的一个必要步骤。

2

接下来要介绍上述三个问题的解决算法,所以需要一些符号来定义问题。

隐马尔科夫模型可以用三元符号表示

#相关的问题求解


                                        因为有状态qj到状态qi有n种可能

在t时刻为状态qj 到 t+1时刻为qi的概率为aji   t+1时刻状态为qi输出为o(t+1)的概率为bi






猜你喜欢

转载自blog.csdn.net/qq_27015119/article/details/80839258