CS229课程笔记12：EM算法及混合高斯的应用

Ng此部分先介绍了EM算法的步骤，然后证明了其一致递增性（收敛性），最后给出了应用于混合高斯的例子。 机器学习的一种任务是求取某个显示变量 x 的概率分布 P(x;θ) ，但是鉴于 P(x) 不属于常见的易于表示的（例如指数型的变形）概率分布，无法通过简易的最大log-likelihood的方式求取。一种方式就是假设存在某种隐变量 z ， P(x,z;θ) 可以表示为简易概率分布的组合，例如 P(

>>阅读原文<<