线性回归、感知机、逻辑回归、SVM

线性回归 线性回归是一个回归问题，即用一条线去拟合训练数据。 模型：根据训练数据学习一个特征的线性组合，作为预测函数。 学习策略：最小化均方误差损失函数，求解参数w；（注意与感知机的区别，此处误分类点与坐标轴垂直） 求解方法： 最小二乘法，梯度下降法（两者的区别） 最小二乘法：对目标损失函数求导，导数为零的点对应的参数，就是待求参数： 均方误差函数： 目标函数对参数的偏导： 导数为零的点，就是极值

>>阅读原文<<