GBM

GBM 在决策树章节中，学习了单棵决策树算法。但是单棵决策树模型效果往往不是很好，自然的就会想到集成多棵决策树的来得到最终的结果。本文主要讲述GBM算法，并以XGBoost为例介绍Boost Trees，然后介绍XGBoost和LightGBM算法中的一些细节。GBM算法中，弱分类器使用的都是CART回归树。 目标函数 每个算法训练的时候都会有它的目标函数，算法训练过程就是在训练集上求目标函数的最

>>阅读原文<<