机器学习-感知机笔记

1.什么是感知机

感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值,属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型。分为原始形式和对偶形式。


2.感知机模型




3.感知机的学习策略

为了找出超平面,即确定感知机模型参数w,b,需要确定一个学习策略,即定义损失函数并将损失函数极小化。(选择的损失函数需要尽可能的对模型参数连续可导)
感知机选用的损失函数是 误分类点到超平面S的总距离
损失函数最终表现形式:



感知机学习问题转化为求解损失函数式的最优化问题,最优化的方法是随机梯度下降法