极大似然估计的应用

1、贝叶斯决策
        首先来看贝叶斯分类，咱们都知道经典的贝叶斯公式：

   　　　　　　 

        其中：p(w)：为先验几率，表示每种类别分布的几率；p(x | w)为类条件几率，表示在某种类别前提下，某事发生的几率；p(w | x)为后验几率，表示某事发生了，而且它属于某一类别的几率，有了这个后验几率，咱们就能够对样本进行分类。后验几率越大，说明某事物属于这个类别的可能性越大，咱们越有理由把它归到这个类别下。

2、问题引出
        可是在实际问题中并不都是这样幸运的，咱们能得到的数据可能只有有限数目的样本数据，而先验几率和类条件几率(各种的整体分布)都是未知的。根据仅有的样本数据进行分类时，一种可行的办法是咱们须要先对先验几率和类条件几率进行估计，而后再套用贝叶斯分类器。

        先验几率的估计较简单，一、每一个样本所属的天然状态都是已知的（有监督学习）；二、依靠经验；三、用训练样本中各种出现的频率估计。

        类条件几率的估计（很是难），缘由包括：几率密度函数包含了一个随机变量的所有信息；样本数据可能很少；特征向量x的维度可能很大等等。总之要直接估计类条件几率的密度函数很难。解决的办法就是，把估计彻底未知的几率密度转化为估计参数。这里就将几率密度估计问题转化为参数估计问题，极大似然估计就是一种参数估计方法。固然了，几率密度函数的选取很重要，模型正确，在样本区域无穷时，咱们会获得较准确的估计值，若是模型都错了，那估计半天的参数，确定也没啥意义了。

3、总结

最大似然估计的目的就是：利用已知的样本结果，反推最有可能（最大几率）致使这样结果的参数值。