吴恩达机器学习系列17：支持向量机

支持向量机（Support vector machine）是一种强大的机器学习算法，和神经网络相比，它在学习复杂的非线性方程时，可以提供更清晰和更增强大的方式。为了学习支持向量机，咱们能够先从逻辑回归开始，看看如何通过小小的改动能获得支持向量机。

在逻辑回归中，假设函数 h_θ(x) 为：

图像为：

对于一个样原本说，代价函数为：

当 y =1 时，第二项为 0，只须要考虑第一项，画出第一项的图像：

咱们把这个图像稍微修改一下，趋势与逻辑回归类似，就变成了支持向量机代价函数一部分的图像 cost_1(z)，以下图粉色线：

第二项一样道理，cost_0(z)：

逻辑回归中正则化代价函数为：

将其中系数 1/m 去掉，把红色部分换成上面粉色图像的函数：

接着将浅蓝色和粉色部分调换一下权重：

这样就获得支持向量机的代价函数：

只须要将这个函数最小化便可获得参数。以上就是从逻辑回归推出支持向量机的整个过程。

ps. 本篇文章是根据吴恩达机器学习课程整理的学习笔记。若是想要一块儿学习机器学习，能够关注微信公众号「SuperFeng」，期待与你的相遇。