支持向量机（SVM）之数学公式详细推导

1、概述

一、含义：

支持向量机（support vector machine，SVM）是一种二类分类器，它的基本模型是定义在特征空间上的间隔最大化的线性分类器，经过引入核函数，也能够做为非线性分类器来解决非线性数据集的分类问题。

二、求解：

支持向量机的学习策略是间隔最大化，可转化为一个求解凸二次规划的问题。

三、模型：

支持向量机模型从简单到复杂可分为：线性可分支持向量机、线性支持向量机和非线性支持向量机。

线性可分支持向量机：训练数据线性可分，经过硬间隔最大化，学习一个线性分类器；

线性支持向量机：训练数据近似线性可分，经过软间隔最大化，学习一个线性分类器；

非线性支持向量机：训练数据线性不可分，经过使用核技巧（kernel trick）及软间隔最大化，学习一个非线性分类器。

本次数学推导就是推导以上三个模型，不涉及SMO算法的推导。考虑到公式比较多，因此是用手写笔记的形式进行整理。

2、数学推导