1、几率论（几率公式、先验几率，后验几率，似然函数）

条件几率公式：

                            

全几率公式：

                           

贝叶斯公式：

                         

给定某系统的若干样本X，计算该系统的参数，即

                                 

P(θ) 没有数据支持下，θ发生的几率：先验几率

P(θ|x) 在数据X的支持下，θ发生的几率：后验几率，贝叶斯公式也称为后验公式

p(x|θ) 给定某参数θ的几率分布：似然函数

理解：

1) 教科书上的解释老是太绕了，有一个很好例子：在没有给任何信息的前提下，让猜某人的姓氏。为了猜对几率大一些，你可能会先百度一下中国人口的姓氏排名，发现李姓是中国第一大姓，约占全国汉族人口的7.94%，因此你可能会猜李。也就是李姓出如今的几率最大。

此时李姓的几率即为 先验几率

2) 接着有人给提供了一些跟这我的相关信息，好比：知道他是来自”赵家村“，那这个时候你就知道，他姓赵的几率比较大，就会猜姓赵。

此时P(姓赵|赵家村)这个条件几率，即为 后验几率

3) 似然函数：

由贝叶斯公式带来的思考：

给定某些样本A，在这些样本中计算结论B1,B2....Bi出现的几率，即P(Bi|A)，拿几率最大的那个结论B作为样本A最终的结论，也就是说我要求max P(Bi|A)，由贝叶斯公式：

max P(Bi|A) = max P(A|Bi)P(Bi)/P(A)  

其中 P(A) 即 

又由于样本A给定，对于B1,B2....Bi来讲P(A)是相同的，能够把分母去掉：

max P(Bi|A) => max P(A|Bi)P(Bi)

若这些结论B1,B2....Bi的先验几率相等（或者近似），则能够获得：

max P(Bi|A) => max P(A|Bi)P(Bi)=> max P(A|Bi)

最后获得结论，咱们求maxP(Bi|A)，实际跟求max P(A|Bi)是等价的 而P(A|Bi)就是似然函数