RF, GBDT, XGB区别

GBDT与XGB区别 1. 传统GBDT以CART做为基分类器,xgboost还支持线性分类器(gblinear),这个时候xgboost至关于带L1和L2正则化项的逻辑斯蒂回归(分类问题)或者线性回归(回归问题) 2. 传统GBDT在优化时只用到一阶导数信息,xgboost则对代价函数进行了二阶泰勒展开,同时用到了一阶和二阶导数。顺便提一下,xgboost工具支持自定义代价函数,只要函数可一阶和
相关文章
相关标签/搜索