连接：https://www.zhihu.com/question/41354392/answer/98658997
来源：知乎
著做权归做者全部。商业转载请联系做者得到受权，非商业转载请注明出处。
最近赞突然多了起来，我猜是校招季来了吧。但若是面试官问你这个问题，我建议不要按个人回答来，背答案不如本身理解透了，何况我这是十分得五分的答案。最初的GBDT发展到如今的XGBoost，改进是一点一滴来的，是一篇篇论文的积累，不少方法并不是XGBoost第一次提出，固然也不是说XGBoost没改进，能够说XGBoost把算法和系统实现都作得淋漓尽致。因此若是不是为了速成，不是为了校招，建议把经典的论文拿出来读一读，相信对算法的理解能更进一层。面试
最近实习恰好在组内分享了GBDT，因此有了这番感悟，看了更多资料，发现本身理解仍是有误差，附上我作的ppt，若再有误差，欢迎跟我邮件交流： http://wepon.me/files/gbdt.pdf算法
如下原答案：多线程
-----------------------------------分布式
xgboost相比传统gbdt有何不一样？xgboost为何快？xgboost如何支持并行？ ide
看了陈天奇大神的文章和slides，略抒己见，没有面面俱到，不恰当的地方欢迎讨论：函数
- 传统GBDT以CART做为基分类器，xgboost还支持线性分类器，这个时候xgboost至关于带L1和L2正则化项的逻辑斯蒂回归（分类问题）或者线性回归（回归问题）。
- 传统GBDT在优化时只用到一阶导数信息，xgboost则对代价函数进行了二阶泰勒展开，同时用到了一阶和二阶导数。顺便提一下，xgboost工具支持自定义代价函数，只要函数可一阶和二阶求导。
- xgboost在代价函数里加入了正则项，用于控制模型的复杂度。正则项里包含了树的叶子节点个数、每一个叶子节点上输出的score的L2模的平方和。从Bias-variance tradeoff角度来说，正则项下降了模型的variance，使学习出来的模型更加简单，防止过拟合，这也是xgboost优于传统GBDT的一个特性。
- Shrinkage（缩减），至关于学习速率（xgboost中的eta）。xgboost在进行完一次迭代后，会将叶子节点的权重乘上该系数，主要是为了削弱每棵树的影响，让后面有更大的学习空间。实际应用中，通常把eta设置得小一点，而后迭代次数设置得大一点。（补充：传统GBDT的实现也有学习速率）
- 列抽样（column subsampling）。xgboost借鉴了随机森林的作法，支持列抽样，不只能下降过拟合，还能减小计算，这也是xgboost异于传统gbdt的一个特性。
- 对缺失值的处理。对于特征的值有缺失的样本，xgboost能够自动学习出它的分裂方向。
- xgboost工具支持并行。boosting不是一种串行的结构吗?怎么并行的？注意xgboost的并行不是tree粒度的并行，xgboost也是一次迭代完才能进行下一次迭代的（第t次迭代的代价函数里包含了前面t-1次迭代的预测值）。xgboost的并行是在特征粒度上的。咱们知道，决策树的学习最耗时的一个步骤就是对特征的值进行排序（由于要肯定最佳分割点），xgboost在训练以前，预先对数据进行了排序，而后保存为block结构，后面的迭代中重复地使用这个结构，大大减少计算量。这个block结构也使得并行成为了可能，在进行节点的分裂时，须要计算每一个特征的增益，最终选增益最大的那个特征去作分裂，那么各个特征的增益计算就能够开多线程进行。
- 可并行的近似直方图算法。树节点在进行分裂时，咱们须要计算每一个特征的每一个分割点对应的增益，即用贪心法枚举全部可能的分割点。当数据没法一次载入内存或者在分布式状况下，贪心算法效率就会变得很低，因此xgboost还提出了一种可并行的近似直方图算法，用于高效地生成候选的分割点。
=============工具
回复 学习
在评论里的问题，由于有些公式放正文比较好。评论里讨论的问题的大意是 “xgboost代价函数里加入正则项，是否优于cart的剪枝”。其实陈天奇大神的slides里面也是有提到的，我当一下搬运工。
决策树的学习过程就是为了找出最优的决策树，然而从函数空间里全部的决策树中找出最优的决策树是NP-C问题，因此常采用启发式（Heuristic）的方法，如CART里面的优化GINI指数、剪枝、控制树的深度。这些启发式方法的背后每每隐含了一个目标函数，这也是大部分人常常忽视掉的。xgboost的目标函数以下：优化
<img src="https://pic4.zhimg.com/50/75894665f9fc8cf514a4e95184138ff6_hd.jpg" data-rawwidth="551" data-rawheight="119" class="origin_image zh-lightbox-thumb" width="551" data-original="https://pic4.zhimg.com/75894665f9fc8cf514a4e95184138ff6_r.jpg">
其中正则项控制着模型的复杂度，包括了叶子节点数目T和leaf score的L2模的平方：spa
<img src="https://pic3.zhimg.com/50/d0fd8e207ab19a2c6af7a20d23ac7ac4_hd.jpg" data-rawwidth="417" data-rawheight="84" class="content_image" width="417">
那这个跟剪枝有什么关系呢？？？ 跳过一系列推导，咱们直接来看xgboost中树节点分裂时所采用的公式：
<img src="https://pic1.zhimg.com/50/7f872e5a5e01f3c50fb0230254b44ff6_hd.jpg" data-rawwidth="769" data-rawheight="219" class="origin_image zh-lightbox-thumb" width="769" data-original="https://pic1.zhimg.com/7f872e5a5e01f3c50fb0230254b44ff6_r.jpg">
这个公式形式上跟ID3算法（采用entropy计算增益） 、CART算法（采用gini指数计算增益） 是一致的，都是用分裂后的某种值 减去 分裂前的某种值，从而获得增益。为了限制树的生长，咱们能够加入阈值，当增益大于阈值时才让节点分裂，上式中的gamma即阈值，它是正则项里叶子节点数T的系数，因此xgboost在优化目标函数的同时至关于作了预剪枝。另外，上式中还有一个系数lambda，是正则项里leaf score的L2模平方的系数，对leaf score作了平滑，也起到了防止过拟合的做用，这个是传统GBDT里不具有的特性。