EM算法详解

1.EM算法详解、及其收敛性

极大似然估计与EM算法适用问题： 

                              

                                  

参考：

【1】EM算法详解：实例

【2】EM算法原理总结 - 刘建平Pinard - 博客园

【3】维基百科，百度百科

2.EM算法在混合高斯模型学习中的应用 

参考：

详解EM算法与混合高斯模型：

• 单高斯模型

服从二维高斯分布的数据主要集中在一个椭圆内部，服从三维的数据集中在一个椭球内部 

• 混合高斯模型：通过一定的权重将多个高斯模型融合成一个模型，即最终的混合高斯模型

       它的本质就是融合几个单高斯模型，来使得模型更加复杂，从而产生更复杂的样本。理论上，如果某个混合高斯模型融合的高斯模型个数足够多，它们之间的权重设定得足够合理，这个混合模型可以拟合任意分布的样本。

       理论上，混合高斯模型的概率密度函数曲线可以是任意形状的非线性函数。

• 直观上理解混合高斯模型
• EM算法与极大似然估计分别适用于什么问题