boost算法总结

boosting算法是集成的方式之一，使用前向分部算法(Forward stagewise additive modeling)构建一个加法模型，每次迭代时根据模型与标签值的误差创建一个基分类器叠加到模型上，逐步减少模型的偏差。前向分部是一种贪心算法，下面的Adaboost和GBDT也是基于这个算法进行的。流程如下 第三步 L(yi,fm−1(xi)+βb(xi;γ)) L ( y i , f m

>>阅读原文<<