《机器学习实战（基于scikit-learn和TensorFlow）》第五章内容学习心得

本章在讲支持向量机(Support Vector Machine)。

支持向量机，一个功能强大的机器学习模型，可以执行线性或非线性数据的分类、回归甚至异常值检测的任务。它适用于中小型数据集的分类。

• 线性SVM分类

     线性SVM分类大致分为两类，一种叫硬间隔分类，另外一种叫软间隔分类。二者间的区别在因而否必定要把数据所有正确分类。

     SVM分类器的目标能够等价视做为在类别之间拟合最宽的街道的工做。而肯定街道的数据点就是分类器的支持向量。

     SVM对特征的缩放很敏感，所以是否进行特征缩放对于SVM最终的决策边界的形状会产生很大影响。

     在SVM的软间隔分类中，因为咱们容许分类产生个别错误，所以就有一个超参数能够控制错误的程度，就是C。C值越小，间隔越大，间隔中的违例越多；C值越大，间隔越小，违例越少。同时C也能够对过拟合化的SVM分类器产生相似正则化的影响。

• 非线性SVM分类

　不少数据集都是线性不可分的，咱们须要进行一些操做使得数据线性可分。

　有一个假设咱们认为线性不可分的数据在高维空间上能够变得线性可分。所以，咱们能够经过增长数据维度来达到一种可分的状况，即添加特征或使用核方法。

• SVM回归

　SVM是支持回归任务的。SVM回归的任务就是尽量让实例在街道内部，街道的宽度由超参数ε控制。