使用Python画ROC曲线以及AUC值

from:http://kubicode.me/2016/09/19/Machine%20Learning/AUC-Calculation-by-Python/python

 

AUC介绍

AUC(Area Under Curve)是机器学习二分类模型中很是经常使用的评估指标,相比于F1-Score对项目的不平衡有更大的容忍性,目前常见的机器学习库中(好比scikit-learn)通常也都是集成该指标的计算,其计算原理能够参考这个ROC和AUC介绍以及如何计算AUC ,可是有时候模型是单独的或者本身编写的,此时想要评估训练模型的好坏就得本身搞一个AUC计算模块,本文在查询资料时发现libsvm-tools1有一个很是通俗易懂的auc计算,所以抠出来用做往后之用。
app

AUC计算

AUC的计算分为下面三个步骤:机器学习

  1. 计算数据的准备,若是模型训练时只有训练集的话通常使用交叉验证的方式来计算,若是有评估集(evaluate)通常就能够直接计算了,数据的格式通常就是须要预测得分以及其目标类别(注意是目标类别,不是预测获得的类别)
  2. 根据阈值划分获得横(X:False Positive Rate)以及纵(Y:True Positive Rate)点
  3. 将坐标点连成曲线以后计算其曲线下面积,就是AUC的值

直接上python代码学习

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
#! -*- coding=utf-8 -*-
import pylab as pl
from math import log,exp,sqrt


evaluate_result="you file path"
db = [] #[score,nonclk,clk]
pos, neg = 0, 0
with open(evaluate_result,'r') as fs:
for line in fs:
nonclk,clk,score = line.strip().split('\t')
nonclk = int(nonclk)
clk = int(clk)
score = float(score)
db.append([score,nonclk,clk])
pos += clk
neg += nonclk



db = sorted(db, key=lambda x:x[0], reverse=True)

#计算ROC坐标点
xy_arr = []
tp, fp = 0., 0.
for i in range(len(db)):
tp += db[i][2]
fp += db[i][1]
xy_arr.append([fp/neg,tp/pos])

#计算曲线下面积
auc = 0.
prev_x = 0
for x,y in xy_arr:
if x != prev_x:
auc += (x - prev_x) * y
prev_x = x

print "the auc is %s."%auc

x = [_v[0] for _v in xy_arr]
y = [_v[1] for _v in xy_arr]
pl.title("ROC curve of %s (AUC = %.4f)" % ('svm',auc))
pl.xlabel("False Positive Rate")
pl.ylabel("True Positive Rate")
pl.plot(x, y)# use pylab to plot x and y
pl.show()# show the plot on the screen

 

输入的数据集能够参考svm预测结果
其格式为:lua

nonclk \t clk \t score 

其中:spa

  1. nonclick:未点击的数据,能够看作负样本的数量
  2. clk:点击的数量,能够看作正样本的数量
  3. score:预测的分数,以该分数为group进行正负样本的预统计能够减小AUC的计算量

运行的结果为:code

若是本机没安装pylab能够直接注释依赖以及画图部分blog

注意

上面贴的代码:ip

  1. 只能计算二分类的结果(至于二分类的标签随便处理)
  2. 上面代码中每一个score都作了一次阈值,其实这样效率是至关低的,能够对样本进行采样或者在计算横轴坐标时进行等分计算

参考

相关文章
相关标签/搜索