xgboost理解

XGBoost(Extreme Gradient Boosting)全名为极端梯度提升,是GBDT的改进,可以用于分类也可以用于回归问题。 下面讲述一下单个树结构、xgboost思路、xgboost原理推导、xgboost模型参数四个方面内容。 单个树结构: 对于每一棵回归树,其模型为: 其中w为叶子节点的得分值,q(x)表示样本x对应的叶子结点,T为该树的叶子结点个数。其中为了提高树的泛化能力,
相关文章
相关标签/搜索