xgboost算法原理

1. XGBoost目标函数 XGBoost的目标函数由训练损失和正则化项两部分组成，目标函数定义如下： 第一项为损失函数，第二项为树的复杂度 变量解释： （1）l 代表损失函数，常见的损失函数有： 平方损失函数： 逻辑回归损失函数： （2）yi'是第 i 个样本 xi 的预测值。由于XGBoost是一个加法模型，因此，预测得分是每棵树打分的累加之和。 （3）将全部k棵树的复杂度进行求和，添加到目

>>阅读原文<<