古典概率：随机现象所能发生的事件是有限的、互不相容的,而且每个基本事件发生的可能性相等。
两个特点：
一是试验的样本空间有限，如掷硬币有正反两种结果，掷骰子有6种结果等；
二是试验中每个结果出现的可能性相同，如硬币和骰子是均匀的前提下，掷硬币出现正反的可能性各为1/2，掷骰子出出各种点数的可能性各为1/6。
先验概率：是指根据以往经验和分析得到的概率.。
意思是说我们人有一个常识,比如骰子,我们都知道概率是1/6,而且无数次重复实验也表明是这个数,这是一种我们人的常识,也是我们在不知道任何情况下必然会说出的一个值.而所谓的先验概率是我们人在未知条件下对事件发生可能性猜测的数学表示!*
后验概率：事情已经发生，要求这件事情发生的原因是由某个因素引起的可能性的大小。
先验概率，就是一般的概率；后验概率，是条件概率。
用P(h)表示在没有训练数据前假设h拥有的初始概率。
P(h)被称为h的先验概率。
先验概率反映了关于h是一正确假设的机会的背景知识如果没有这一先验知识，可以简单地将每一候选假设赋予相同的先验概率。类似地，P(D)表示训练数据D的先验概率，P(D|h)表示假设h成立时D的概率。
机器学习中，我们关心的是P(h|D)，即给定D时h的成立的概率，称为h的后验概率。
贝叶斯公式：
这里的 
就是初始概率，作为先验概率。
就是后验概率，根据结果，来推出发生这件事的原因。