贝叶斯公式的直观理解(先验几率/后验几率)

 

前言

　　之前在许学习贝叶斯方法的时候一直不得要领,什么先验几率,什么后验几率,彻底是跟想象脱节的东西,今天在听喜马拉雅的音频的时候忽然领悟到,贝叶斯老人家当时想到这么一种理论前提可能也是基于一种人的直觉.

先验几率:是指根据以往经验和分析获得的几率.[1]

　　意思是说咱们人有一个常识,好比骰子,咱们都知道几率是1/6,并且无数次重复实验也代表是这个数,这是一种咱们人的常识,也是咱们在不知道任何状况下必然会说出的一个值.而所谓的先验几率是咱们人在未知条件下对事件发生可能性猜想的数学表示!*

后验几率:事情已经发生，要求这件事情发生的缘由是由某个因素引发的可能性的大小[1]

举个栗子

　　首先我想问一个问题,桌子上若是有一块肉喝一瓶醋,你若是吃了一块肉,而后你以为是酸的,那你以为肉里加了醋的几率有多大?你说:80%可能性加了醋.OK,你已经进行了一次后验几率的猜想.没错,就这么简单.

形式化:

　　咱们设A为加了醋的几率,B为吃了以后是酸的几率.C为肉变质的几率

思考思考再思考

　　那么先验几率在这个公式中有没有出现呢?有,P(A)就是一种先验几率.

　　那么什么是P(B|A)呢? 类条件几率.

　　那么P(B|A)为何叫类条件几率呢?立刻解释.

　　在写这个随笔之时,我脑子中又有一种构想,所谓的后验几率,是一种果因几率,即在一个结果已经发生的条件下,多是其中某一个缘由形成的几率有多大.这里引用一段"几率论与数理统计"[2]中关于贝叶斯公式的解释:

"若是咱们把事件A看作'结果',把诸事件B1,B2...看作致使这个结果的可能的'缘由',则能够形象地把全几率公式看作成为'由缘由推结果';而贝叶斯公式则刚好相反,其做用于'由结果推缘由':如今有一个'结果'A以发生,在众多可能的'缘由'中,究竟是哪个致使了这结果"

,这也佐证了我构想的正确性

 　  那么这个P(缘由1致使结果)和P(结果|缘由1)之间到底有什么联系呢?让咱们举一个图像识别的例子

再举个栗子

　　假如给你一些图片,这些图片中有的图上有动物的角,这些图片占了1/10(即先验几率),且已知在有角的条件下是犀牛的几率是0.8(类条件几率1,注意这个几率互补的几率是有角条件下不是犀牛的几率),已知在无角条件下是犀牛几率的是0.05(类条件几率2),如今拿起一张图,发现是一张犀牛的图,那么这张图上带角的几率有多大(求后验几率)

　　由图中公式可知P(图片上由动物的角|是犀牛) = 0.8*0.1/(0.8*0.1+0.05*0.9)=0.64

　　能够看到P(图片上由动物的角且是犀牛)=0.08与P(是犀牛|图片上由动物的角)=0.8之间差异很是大.

　　再经过比较能够发现,分母中的类条件几率实际上把一个完整的问题集合S经过特征进行了划分,划分红S1/S2/S3...,拿我刚刚提出的所谓果因几率来讨论,类条件几率中的类指的是把形成结果的全部缘由一(yi) 一(yi)进行列举,分别讨论.

总结:

"几率论只不过是把常识用数学公式表达了出来"---拉普拉斯

　　我想之因此贝叶斯方法在机器学习中如此重要,就是由于人们但愿机器人能像人那样思考,而不少问题是须要计算机在已知条件下作出最佳决策的决策,而贝叶斯公式就是对人脑在已知条件下作出直觉判断的一种数学表示.