机器学习笔记21-XGBoost

XGBoost： 算法核心思想 不断地添加树，不断地进行特征分裂来生长一棵树，每次添加一个树，其实是学习一个新函数，去拟合上次预测的残差。 当我们训练完成得到k棵树，我们要预测一个样本的分数，其实就是根据这个样本的特征，在每棵树中会落到对应的一个叶子节点，每个叶子节点就对应一个分数 最后只需要将每棵树对应的分数加起来就是该样本的预测值 决策树模型 训练数据集，其中 决策树模型： 把树分成结构部分q

>>阅读原文<<