XGBOOST集成树模型的原理梳理

0 前言 xgboost本身是集成树模型，在了解其原理之前，先对树模型的机器学习基础知识做一定介绍。 监督学习元素 （1）学习模型（即已知x,求出y的模型表达式） 比如：线性模型； 逻辑回归模型； （2）参数 从数据当中学习得到模型参数。 （3）目标函数 包含两部分：损失函数+正则项 损失函数是衡量模型拟合训练数据的能力。 在训练数据上的损失函数，有多种形式：比如平方损失、逻辑回归损失； 正则项是

>>阅读原文<<