XGBoost原理简介

一、简述        这里先简单介绍下RF(Random Forest)、GBDT(Gradient Boosting Decision Tree)和XGBoost算法的原理。        RF:从M个训练样本中随机选取m个样本,从N个特征中随机选取n个特征,然后建立一颗决策树。这样训练出T棵树后,让这k颗树对测试集进行投票产生决策值。RF是一种bagging的思路。可以并行化处理。    
相关文章
相关标签/搜索