09 集成学习 - XGBoost公式推导

08 集成学习 - XGBoost概述 根据上面的知识对XGBoost公式推导 回顾: 第t次迭代后，模型的预测值= t-1次模型的预测值+第t棵树的预测值。 目标函数可以写成： 回顾泰勒公式： 将误差函数在yi^ (t-1)处进行二阶泰勒展开。即对原损失函数进行泰勒展开，yi是定值，y^t是变化量，即泰勒公式中的Δx。 然后将yit展开: yit = L( y^ it-1 + ft(x)) 至此

>>阅读原文<<