机器学习实战----贝叶斯之概览篇

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/zhangyingjie09/article/details/80752047

一介绍

        贝叶斯(约1701年至1761年)托马斯贝叶斯,英国数学家。约1701年出生于伦敦,做过神父。1742年成为英国皇家学会会员。1761年4月7日逝世。贝叶斯在数学方面主要研究概率论。他首先将归纳推理法用于概率论基础理论,并创立了贝叶斯统计理论,对于统计决策函数,统计推断,统计的估算等做出了贡献。

        期初,贝叶斯是想通过概率论的研究证明上帝的存在,可惜到他去世也没有得到证明。却为后人留下了宝贵的财富。贝叶斯理论在它诞生的时期是不被接受的,特别是受到传统统计学的排斥。

        放松一下,给大家讲个故事,在很久以前有个张大财主。他在自己家里修了一个大鱼塘,在里面养了黑鲤鱼与绿鲤鱼两种,黑鲤鱼2000条,绿鲤鱼3000条。有一天他问他的儿子,如果我用网捞鱼,每次只能捞出一条,并且的每次假设都能捞到,那我捞到黑鲤鱼的概率是多少?他的儿子小张很容易就得到了答案。过了一年这一池塘的黑鲤鱼与绿鲤鱼有的死了,有的被吃了,有的呢,又有了爱的结晶。现在已经不知道鱼塘里到底有多少鱼了,也不知道黑鲤鱼与绿鲤鱼各多少条?这个时候老张又问小张现在池塘里的黑鲤鱼与绿鲤鱼的比例是多少。这可苦坏了我们的小张,他总不能把池塘里的鱼都捞出来数一数吧。这个问题其实就是逆向概率问题,由因推果,由果溯因。但其实300多年前的贝爷爷就已经给我们找到了计算的方法,这就是伟大的贝叶斯原理。

       P(A | B)= P(A)* P(B | A)/ P(B)。      

       P(A)为先验概率,有首先发生,根据经验所得的意思。

       P(B | A )极大似然估计

       P(A)是全概率。意思是甲发生在全局中概率。

       贝叶斯在机器学习,模式识别等诸多关注数据分析的领域都有极为重要的地位。

二分类

贝叶斯根据属性间的依赖关系,分为了三类:朴素贝叶斯,半朴素贝叶斯和贝叶斯网。

朴素贝叶斯:不考虑属性间的依赖关系

半朴素贝叶斯:考虑属性间的部分依赖关系

贝叶斯网:能表示任意属性间的关系。

三证明


已知:A,B,总面积为U,A与乙相交的部分为℃; P(A | B)=(A∩B)/ B = C / B

求:P(A | B)= P(A)* P(B | A)/ P(B)

解:

已知P(A | B)=(A∩B)/ B = C / B

P(A)* P(B | A)/ P(B)=(A / U)*(A∩B/ A)/(B / U)=(A / U)*(C / A)/(B / U)= C / B

P(A | B)= P(A)* P(B / A)/ P(B) 

四总结

1贝叶斯原理是一个逆向思维的过程。我们一般的问题都是知道原因求结果,而贝叶斯原理则是通过结果求原因。 

2不论多复杂的理论都可以用最简单的方式表示。

3在我们的小团队中,大家互相讲解,弥补各自的不足,验证了一句话:你以为你会了,就是会了吗教是最好的学。

4相信自己,一定能够弄明白搞清楚。


猜你喜欢

转载自blog.csdn.net/zhangyingjie09/article/details/80752047