贝叶斯方法源于英国数学家托马斯 贝叶斯为解决一个“逆概”的问题写的一篇文章。
贝叶斯定理由英国数学家贝叶斯 ( Thomas Bayes 1702-1761 ) 发展，用来描述两个条件概率之间的关系，比如 P(A|B) 和 P(B|A)。按照乘法法则，可以立刻导出：P(A∩B) = P(A)*P(B|A)=P(B)*P(A|B)。如上公式也可变形为：P(B|A) = P(A|B)*P(B) / P(A)。
贝叶斯要解决的问题：
正向概率：假设袋子里面有N个白球，M个黑球，你伸手进去摸一把，
摸出黑球的概率是多大
逆向概率：如果我们事先并不知道袋子里面黑白球的比例，而是闭着眼睛
摸出一个（或好几个）球，观察这些取出来的球的颜色之后，那么我们可
以就此对袋子里面的黑白球的比例作出什么样的推测
Why贝叶斯？
现实世界本身就是不确定的，人类的观察能力是有局限性的
我们日常所观察到的只是事物表面上的结果，因此我们需要提供一个猜测