机器学习之树模型

决策树模型，树的结构固定，自顶向下分叉。优化方法就是搜索某个特征的取值范围做为分支的界限。因此，各类决策树模型的体如今度量信息增益的方式，Formally讲，就是损失函数。回归树用MSE，分类树用交叉熵。web xgboost模型 推导第t步的损失函数 获得新的目标函数并进一步，将它分解为T个叶子节点上子目标函数之和（方便下边搜索树结构使用）。 解这个二次函数的最小值问题获得形式化的解法。 贪心法

>>阅读原文<<