模型组合之梯度提升(Gradient Boosting)

Boosting方法：     Boosting这其实思想相当的简单，大概是，对一份数据，建立M个模型（比如分类），一般这种模型比较简单，称为弱分类器(weak learner)每次分类都将上一次分错的数据权重提高一点再进行分类，这样最终得到的分类器在测试数据与训练数据上都可以得到比较好的成绩。         上图（图片来自prml p660）就是一个Boosting的过程，绿色的线表示目前取得

>>阅读原文<<