SVM算法（深入理解拉格朗日乘子法与KKT条件的证明）

SVM应该是一个应用到数学知识很多的AI算法，关于KKT的证明花了很长时间，里面涉及到大量线性代数的知识。 对偶关系、方向导数与梯度的关系、梯度方向与构造的可取区域的关系、拉格朗日乘子引入的真实含义等等。 （一）间隔与支持向量 SVM（support vector machine）支持向量机，最重要的就是在训练样本集中找到支持向量。 如图所示为最简单的二维平面上的分类，要想将圆圈一类和长方形一类分

>>阅读原文<<