xgboost原理

 之前一篇文章提到了GBDT，其实就是做一个铺垫，引出今天要说的两个，xgboost和lightboost。 xgboost是GBDT的改进和重要实现，主要在于： 提出稀疏感知(sparsity-aware)算法。 加权分位数快速近似数学习算法。 缓存访问模式，数据压缩和分片上的实现上的改进。 加入了Shrinkage和列采样，一定程度上防止过拟合。Tree Boosting Tree Boost

>>阅读原文<<