手把手教你画ROC曲线

假设如今有一个二分类问题,先引入两个概念:post

  • 真正例率(TPR):正例中预测为正例的比例
  • 假正例率(FPR):反例中预测为正例的比例

再假设样本数为6,如今有一个分类器1,它对样本的分类结果以下表(按预测值从大到小排序)性能

标签 预测值
1 0.9
1 0.8
1 0.7
0 0.3
0 0.2
0 0.1

ROC曲线的横轴为假正例率,纵轴为真正例率,范围都是[0,1],如今咱们开始画图——根据从大到小遍历预测值,把当前的预测值当作阈值,计算FPR和TPR。spa

step1:选择阈值最大,即为1,正例中和反例中都没有预测值大于等于1的,因此FPR=TPR=0。code

step2:根据上表,选择阈值为0.9,正例中有1个样本的预测值大于等于1,反例中有0个,因此,TPR=1/3,FPR=0。排序

step3:根据上表,选择阈值为0.8,正例中有2个样本的预测值大于等于1,反例中有0个,因此,TPR=2/3,FPR=0。rem

step4:根据上表,选择阈值为0.7,正例中有3个样本的预测值大于等于1,反例中有0个,因此,TPR=1,FPR=0。数学

step5:根据上表,选择阈值为0.3,正例中有3个样本的预测值大于等于1,反例中有1个,因此,TPR=1,FPR=1/3。it

step6:根据上表,选择阈值为0.2,正例中有3个样本的预测值大于等于1,反例中有2个,因此,TPR=1,FPR=2/3。table

step7:根据上表,选择阈值为0.1,正例中有3个样本的预测值大于等于1,反例中有3个,因此,TPR=1,FPR=1。class

综上,咱们获得下表

FPR TPR
0 1/3
0 2/3
0 1
1/3 1
2/3 1
1 1

描点连线,画出的图是下面这样什儿的

能够看出这个分类器仍是很理想的。

假设如今又有一个分类器2,对一样一组样本,分类结果以下

标签 预测值
1 0.9
1 0.8
0 0.75
1 0.7
0 0.2
0 0.1

根据上面描述的方法,画出ROC曲线以下

发现这个曲线的左上角比以前往右下角凹了一点。

emmmm,如今又来了一个分类器3,对一样一组样本,分类结果以下

标签 预测值
1 0.9
0 0.8
0 0.78
1 0.75
1 0.2
0 0.1

很少说,直接画图——

哎?这个曲线比以前更“凹”了。

实际上,不用画出曲线,只是根据这3个分类器的分类结果,咱们也能大概能分析出它们的性能:分类器1>分类器2>分类器3。

对分类器1的预测结果来讲,全部的正例的预测值都在1这一侧,全部反例的预测值都在0那一侧,只要阈值取得合适,即阈值落在(0.3,0.7)内均可以。

再看分类器2的预测结果,出现了对反例的预测值(0.75)大于对正例的预测值了(0.7),因此不能选择一个合适的阈值把这两类彻底分开,因此反映在图上就是左上角凹了一点,但对大部分样本仍是能够正确分类的。

再看分类器3的预测结果,这种不稳定性就更明显了,因此相比前两个的ROC曲线,凹得就更多了。

从这个角度,也就不可贵出,ROC下面的面积越大,分类器越好的结论了。固然还有严格的数学角度的分析,感兴趣的,了解一下。

下面附上画图用的matlab代码

clear;
clc;
% 分类器1
% label = [1,1,1,0,0,0];
% predict = [0.9,0.8,0.7,0.3,0.2,0.1];

% 分类器2
% label = [1,1,0,1,0,0];
% predict = [0.9,0.8,0.75,0.7,0.2,0.1];

% 分类器3
label = [1,0,0,1,1,0];
predict = [0.9,0.8,0.78,0.75,0.2,0.1];


TPR=[];
FPR=[];
numPositive = size(find(label==1),2);
numNegative = size(find(label==0),2);
postive = predict(find(label==1));
negative = predict(find(label==0));
for i=1:size(label,2)+1
    if i==1
        cur = 1;
    else
        cur = predict(i-1);
    end
    TPR(i) = size(find(postive>=cur),2)/numPositive;
    FPR(i) = size(find(negative>=cur),2)/numNegative;
end
plot(FPR,TPR,'k*-')
axis([0 1 0 1]);
xlabel('FPR')
ylabel('TPR')
相关文章
相关标签/搜索