(1)判别式模型(Discriminative Model)是直接对条件几率p(y|x;θ)建模。常见的判别式模型有线性回归模型、线性判别分析、支持向量机SVM、神经网络、boosting、条件随机场等。网络
举例:要肯定一个羊是山羊仍是绵羊,用判别模型的方法是从历史数据中学习到模型,而后经过提取这只羊的特征来预测出这只羊是山羊的几率,是绵羊的几率。学习
(2)生成式模型(Generative Model)则会对x和y的联合分布p(x,y)建模,而后经过贝叶斯公式来求得p(yi|x),而后选取使得p(yi|x)最大的yi,即:spa
常见的生成式模型有 隐马尔可夫模型HMM、朴素贝叶斯模型、高斯混合模型GMM、LDA、高斯、混合多项式、专家的混合物、马尔可夫的随机场blog
举例:利用生成模型是根据山羊的特征首先学习出一个山羊的模型,而后根据绵羊的特征学习出一个绵羊的模型,而后从这只羊中提取特征,放到山羊模型中看几率是多少,在放到绵羊模型中看几率是多少,哪一个大就是哪一个。class
(3)对比神经网络