机器学习篇——boosting

boosting是ensemble集成方法之一， 引入函数空间概念，使用损失函数的导数，采用迭代思想优化弱分类器 1、模型 加法模型，即基分类器组合（一般为决策树）、可分类可回归、判别模型 2、策略 引入前向分步算法，让加法模型中每一轮增加的部分由该轮的决策树决定 分类问题时，最小化指数损失函数，即是adaboost算法 回归问题时，最小化自定义的损失函数，每一轮对残差构造回归树，当残差用梯度下降

>>阅读原文<<