参考博文：https://www.cnblogs.com/skyme/p/4651331.html
最大熵模型：
1.意义：保留全部的不确定性，将风险降到最小
2.对任何一组不自相矛盾的信息，这个最大熵模型不仅存在，而且是唯一的。而且它们都有同一个非常简单的形式 -- 指数函数。
3.构造最大熵模型（模型的训练）：只需要确定指数函数的参数
- 通用迭代算法 GIS(generalized iterative scaling)
1. 假定第零次迭代的初始模型为等概率的均匀分布。
2. 用第 N 次迭代的模型来估算每种信息特征在训练数据中的分布，如果超过了实际的，就把相应的模型参数变小；否则，将它们便大。
3. 重复步骤 2 直到收敛。
- 改进迭代算法 IIS（improved iterative scaling）
隐马尔科夫模型：
1.定义：统计模型，它用来描述一个含有隐含未知参数的马尔可夫过程。
2.意义：从可观察的参数中确定该过程的隐含参数。然后利用这些参数来作进一步的分析，例如模式识别。
3.概念：隐含状态（骰子）之间存在转换概率。尽管可见状态之间没有转换概率，但是隐含状态和可见状态之间有一个概率叫做输出概率。
3.分类：
- 知道骰子有几种（隐含状态数量），每种骰子是什么（转换概率），根据掷骰子掷出的结果（可见状态链），我想知道每次掷出来的都是哪种骰子（隐含状态链）。
- 知道骰子有几种（隐含状态数量），每种骰子是什么（转换概率），根据掷骰子掷出的结果（可见状态链），我想知道掷出这个结果的概率。
- 知道骰子有几种（隐含状态数量），不知道每种骰子是什么（转换概率），观测到很多次掷骰子的结果（可见状态链），我想反推出每种骰子是什么（转换概率）。