Boost算法（GDBT,AdaBoost，XGBoost）原理

原文链接：点击打开链接 简单地来说，提升Boost就是指每一步都产生一个弱预测模型，然后加权累加到总模型中，然后每一步弱预测模型生成的的依据都是损失函数的负梯度方向，这样若干步以后就可以达到逼近损失函数局部最小值的目标。 首先Boost肯定是一个加法模型，它是由若干个基函数及其权值乘积之和的累加，即 其中b是基函数，beta是基函数的系数，这就是我们最终分类器的样子，现在的目标就是想办法使损失函数

>>阅读原文<<