机器学习 学习总结 第四章 分类问题逻辑回归算法之决策边界

分类问题

逻辑函数

逻辑函数(S型函数) :
函数表达式及图像
预测值
由上面两个图可知,要假设函数g(z)>=0.5,则需要z>=0假设函数g(z)<=0.5时,则需要z<=0; 预测y=1,则只需要θTx>=0, 预测y=0,则只需要θTx<=0.
举例(吴恩达老师的例子,×表示正样本,⭕表示负样本):
预测

决策边界

线性决策边界

决策边界是假设函数的一个属性。预测值等于1和预测值等于0都是假设函数的属性,取决于假设函数,而不是数据集,当我们拟合完数据集,参数确定后这些属性就确定了

边界
**这条洋红色的直线由θTx=0得到。**这条之间也对应假设函数等于0.5的情况。 这条直线也就是 决策边界
在红线上方的为假设函数>=0.5的情况,即预测值y=1; 同理假设函数<=0.5,即预测值y=0;

非线性决策边界

以下面这个数据集为例:
非线性决策边界
右侧为假设函数。括号中为z的表达式。假设θ=[-1,0,0,1,1]T。 则 决策边界如图:
非线性决策边界1
圈内为y=0的情况,圈外为y=1的情况。

对于不同的例子,可以得到不同的决策边界,有 的可能会很复杂。

————————————————