XGBoost原理

本文大量参考雪伦大佬的博客 以及wepon大佬的ppt,在此表示感谢! 目标函数 XGBoost目标函数的定义: L(ϕ)=∑il(y^i,yi)+∑kΩ(fk)whereΩ(f)=γT+12λ||w||2 由于上式包含函数作为参数,不能用欧式空间中传统的优化方法进行求解,所以XGBoost采用一种累加的方式作为训练方法,在统计学习中这种方法称为“前向分步算法”。在这种方法下,目标函数变为: L(
相关文章
相关标签/搜索