信用风险计量体系包括主体评级模型和债项评级两部分。主体评级和债项评级均有一系列评级模型组成,其中主体评级模型可用“四张卡”来表示,分别是A卡、B卡、C卡和F卡;债项评级模型一般按照主体的融资用途,分为企业融资模型、现金流融资模型和项目融资模型等。 咱们主要讨论主体评级模型的开发过程。html
典型的信用评分模型如图1-1所示。信用风险评级模型的主要开发流程以下:
(1) 数据获取,包括获取存量客户及潜在客户的数据。存量客户是指已经在证券公司开展相关融资类业务的客户,包括我的客户和机构客户;潜在客户是指将来拟在证券公司开展相关融资类业务的客户,主要包括机构客户,这也是解决证券业样本较少的经常使用方法,这些潜在机构客户包括上市公司、公开发行债券的发债主体、新三板上市公司、区域股权交易中心挂牌公司、非标融资机构等。
(2) 数据预处理,主要工做包括数据清洗、缺失值处理、异常值处理,主要是为了将获取的原始数据转化为可用做模型开发的格式化数据。
(3) 探索性数据分析,该步骤主要是获取样本整体的大概状况,描述样本整体状况的指标主要有直方图、箱形图等。
(4) 变量选择,该步骤主要是经过统计学的方法,筛选出对违约状态影响最显著的指标。主要有单变量特征选择方法和基于机器学习模型的方法 。
(5) 模型开发,该步骤主要包括变量分段、变量的WOE(证据权重)变换和逻辑回归估算三部分。
(6) 模型评估,该步骤主要是评估模型的区分能力、预测能力、稳定性,并造成模型评估报告,得出模型是否可使用的结论。
(7) 信用评分,根据逻辑回归的系数和WOE等肯定信用评分的方法。将Logistic模型转换为标准评分的形式。
(8) 创建评分系统,根据信用评分方法,创建自动信用评分系统。python
图1-1 信用评分模型开发流程git
PS:有些时候为了便于命名,相应的变量用标号代替算法
数据来自Kaggle的Give Me Some Credit,有15万条的样本数据,下图能够看到这份数据的大体状况。
数据属于我的消费类贷款,只考虑信用评分最终实施时可以使用到的数据应从以下一些方面获取数据:
– 基本属性:包括了借款人当时的年龄。
– 偿债能力:包括了借款人的月收入、负债比率。
– 信用往来:两年内35-59天逾期次数、两年内60-89天逾期次数、两年内90
天或高于90天逾期的次数。
– 财产情况:包括了开放式信贷和贷款数量、不动产贷款或额度数量。
– 贷款属性:暂无。
– 其余因素:包括了借款人的家眷数量(不包括本人在内)。
– 时间窗口:自变量的观察窗口为过去两年,因变量表现窗口为将来两年。app
图2-1 原始数据的变量dom
在对数据处理以前,须要对数据的缺失值和异常值状况进行了解。Python内有describe()函数,能够了解数据集的缺失值、均值和中位数等。机器学习
#载入数据 data = pd.read_csv('cs-training.csv') #数据集确实和分布状况 data.describe().to_csv('DataDescribe.csv')
数据集的详细状况:ide
图3-1 变量详细状况wordpress
从上图可知,变量MonthlyIncome和NumberOfDependents存在缺失,变量MonthlyIncome共有缺失值29731个,NumberOfDependents有3924个缺失值。函数
这种状况在现实问题中很是广泛,这会致使一些不能处理缺失值的分析方法没法应用,所以,在信用风险评级模型开发的第一步咱们就要进行缺失值处理。缺失值处理的方法,包括以下几种。
(1) 直接删除含有缺失值的样本。
(2) 根据样本之间的类似性填补缺失值。
(3) 根据变量之间的相关关系填补缺失值。
变量MonthlyIncome缺失率比较大,因此咱们根据变量之间的相关关系填补缺失值,咱们采用随机森林法:
# 用随机森林对缺失值预测填充函数 def set_missing(df): # 把已有的数值型特征取出来 process_df = df.ix[:,[5,0,1,2,3,4,6,7,8,9]] # 分红已知该特征和未知该特征两部分 known = process_df[process_df.MonthlyIncome.notnull()].as_matrix() unknown = process_df[process_df.MonthlyIncome.isnull()].as_matrix() # X为特征属性值 X = known[:, 1:] # y为结果标签值 y = known[:, 0] # fit到RandomForestRegressor之中 rfr = RandomForestRegressor(random_state=0, n_estimators=200,max_depth=3,n_jobs=-1) rfr.fit(X,y) # 用获得的模型进行未知特征值预测 predicted = rfr.predict(unknown[:, 1:]).round(0) print(predicted) # 用获得的预测结果填补原缺失数据 df.loc[(df.MonthlyIncome.isnull()), 'MonthlyIncome'] = predicted return df
NumberOfDependents变量缺失值比较少,直接删除,对整体模型不会形成太大影响。对缺失值处理完以后,删除重复项。
data=set_missing(data)#用随机森林填补比较多的缺失值 data=data.dropna()#删除比较少的缺失值 data = data.drop_duplicates()#删除重复项 data.to_csv('MissingData.csv',index=False)
缺失值处理完毕后,咱们还须要进行异常值处理。异常值是指明显偏离大多数抽样数据的数值,好比我的客户的年龄为0时,一般认为该值为异常值。找出样本整体中的异常值,一般采用离群值检测的方法。
首先,咱们发现变量age中存在0,显然是异常值,直接剔除:
# 年龄等于0的异常值进行剔除 data = data[data['age'] > 0]
对于变量NumberOfTime30-59DaysPastDueNotWorse、NumberOfTimes90DaysLate、NumberOfTime60-89DaysPastDueNotWorse这三个变量,由下面的箱线图图3-2能够看出,均存在异常值,且由unique函数能够得知均存在9六、98两个异常值,所以予以剔除。同时会发现剔除其中一个变量的9六、98值,其余变量的9六、98两个值也会相应被剔除。
图3-2 箱形图
剔除变量NumberOfTime30-59DaysPastDueNotWorse、NumberOfTimes90DaysLate、NumberOfTime60-89DaysPastDueNotWorse的异常值。另外,数据集中好客户为0,违约客户为1,考虑到正常的理解,能正常履约并支付利息的客户为1,因此咱们将其取反。
#剔除异常值 data = data[data['NumberOfTime30-59DaysPastDueNotWorse'] < 90] #变量SeriousDlqin2yrs取反 data['SeriousDlqin2yrs']=1-data['SeriousDlqin2yrs']
为了验证模型的拟合效果,咱们须要对数据集进行切分,分红训练集和测试集。
from sklearn.cross_validation import train_test_split
Y = data['SeriousDlqin2yrs'] X = data.ix[:, 1:] #测试集占比30% X_train, X_test, Y_train, Y_test = train_test_split(X, Y, test_size=0.3, random_state=0) # print(Y_train) train = pd.concat([Y_train, X_train], axis=1) test = pd.concat([Y_test, X_test], axis=1) clasTest = test.groupby('SeriousDlqin2yrs')['SeriousDlqin2yrs'].count() train.to_csv('TrainData.csv',index=False) test.to_csv('TestData.csv',index=False)
在创建模型以前,咱们通常会对现有的数据进行 探索性数据分析(Exploratory Data Analysis) 。 EDA是指对已有的数据(特别是调查或观察得来的原始数据)在尽可能少的先验假定下进行探索。经常使用的探索性数据分析方法有:直方图、散点图和箱线图等。
客户年龄分布如图4-1所示,能够看到年龄变量大体呈正态分布,符合统计分析的假设。
图4-1 客户年龄分布
客户年收入分布如图4-2所示,月收入也大体呈正态分布,符合统计分析的须要。
图4-2 客户收入分布
特征变量选择(排序)对于数据分析、机器学习从业者来讲很是重要。好的特征选择可以提高模型的性能,更能帮助咱们理解数据的特色、底层结构,这对进一步改善模型、算法都有着重要做用。至于Python的变量选择代码实现能够参考结合Scikit-learn介绍几种经常使用的特征选择方法。
在本文中,咱们采用信用评分模型的变量选择方法,经过WOE分析方法,便是经过比较指标分箱和对应分箱的违约几率来肯定指标是否符合经济意义。首先咱们对变量进行离散化(分箱)处理。
变量分箱(binning)是对连续变量离散化(discretization)的一种称呼。信用评分卡开发中通常有经常使用的等距分段、等深分段、最优分段。其中等距分段(Equval length intervals)是指分段的区间是一致的,好比年龄以十年做为一个分段;等深分段(Equal frequency intervals)是先肯定分段数量,而后令每一个分段中数据数量大体相等;最优分段(Optimal Binning)又叫监督离散化(supervised discretizaion),使用递归划分(Recursive Partitioning)将连续变量分为分段,背后是一种基于条件推断查找较佳分组的算法。
咱们首先选择对连续变量进行最优分段,在连续变量的分布不知足最优分段的要求时,再考虑对连续变量进行等距分段。最优分箱的代码以下:
# 定义自动分箱函数 def mono_bin(Y, X, n = 20): r = 0 good=Y.sum() bad=Y.count()-good while np.abs(r) < 1: d1 = pd.DataFrame({"X": X, "Y": Y, "Bucket": pd.qcut(X, n)}) d2 = d1.groupby('Bucket', as_index = True) r, p = stats.spearmanr(d2.mean().X, d2.mean().Y) n = n - 1 d3 = pd.DataFrame(d2.X.min(), columns = ['min']) d3['min']=d2.min().X d3['max'] = d2.max().X d3['sum'] = d2.sum().Y d3['total'] = d2.count().Y d3['rate'] = d2.mean().Y d3['woe']=np.log((d3['rate']/(1-d3['rate']))/(good/bad)) d4 = (d3.sort_index(by = 'min')).reset_index(drop=True) print("=" * 60) print(d4) return d4
针对咱们将使用最优分段对于数据集中的RevolvingUtilizationOfUnsecuredLines、age、DebtRatio和MonthlyIncome进行分类。
图5-1 RevolvingUtilizationOfUnsecuredLines分箱状况.png
图5-2 age分箱状况.png
图5-3 DebtRatio分箱状况.png
图5-4 MonthlyIncome分箱状况.png
针对不能最优分箱的变量,分箱以下:
# 连续变量离散化 cutx3 = [ninf, 0, 1, 3, 5, pinf] cutx6 = [ninf, 1, 2, 3, 5, pinf] cutx7 = [ninf, 0, 1, 3, 5, pinf] cutx8 = [ninf, 0,1,2, 3, pinf] cutx9 = [ninf, 0, 1, 3, pinf] cutx10 = [ninf, 0, 1, 2, 3, 5, pinf]
WoE分析, 是对指标分箱、计算各个档位的WoE值并观察WoE值随指标变化的趋势。其中WoE的数学定义是:
woe=ln(goodattribute/badattribute)
在进行分析时,咱们须要对各指标从小到大排列,并计算出相应分档的WoE值。其中正向指标越大,WoE值越小;反向指标越大,WoE值越大。正向指标的WoE值负斜率越大,反响指标的正斜率越大,则说明指标区分能力好。WoE值趋近于直线,则意味指标判断能力较弱。若正向指标和WoE正相关趋势、反向指标同WoE出现负相关趋势,则说明此指标不符合经济意义,则应当予以去除。
woe函数实如今上一节的mono_bin()函数里面已经包含,这里再也不重复。
接下来,咱们会用通过清洗后的数据看一下变量间的相关性。注意,这里的相关性分析只是初步的检查,进一步检查模型的VI(证据权重)做为变量筛选的依据。
相关性图咱们经过Python里面的seaborn包,调用heatmap()绘图函数进行绘制,实现代码以下:
corr = data.corr()#计算各变量的相关性系数 xticks = ['x0','x1','x2','x3','x4','x5','x6','x7','x8','x9','x10']#x轴标签 yticks = list(corr.index)#y轴标签 fig = plt.figure() ax1 = fig.add_subplot(1, 1, 1) sns.heatmap(corr, annot=True, cmap='rainbow', ax=ax1, annot_kws={'size': 9, 'weight': 'bold', 'color': 'blue'})#绘制相关性系数热力图 ax1.set_xticklabels(xticks, rotation=0, fontsize=10) ax1.set_yticklabels(yticks, rotation=0, fontsize=10) plt.show()
生成的图形如图5-5所示:
图5-5 数据集各变量的相关性
由上图能够看出,各变量之间的相关性是很是小的。NumberOfOpenCreditLinesAndLoans和NumberRealEstateLoansOrLines的相关性系数为0.43。
接下来,我进一步计算每一个变量的Infomation Value(IV)。IV指标是通常用来肯定自变量的预测能力。 其公式为:
IV=sum((goodattribute-badattribute)*ln(goodattribute/badattribute))
经过IV值判断变量预测能力的标准是:
< 0.02: unpredictive
0.02 to 0.1: weak
0.1 to 0.3: medium
0.3 to 0.5: strong
> 0.5: suspicious
IV的实现放在mono_bin()函数里面,代码实现以下:
# 定义自动分箱函数 def mono_bin(Y, X, n = 20): r = 0 good=Y.sum() bad=Y.count()-good while np.abs(r) < 1: d1 = pd.DataFrame({"X": X, "Y": Y, "Bucket": pd.qcut(X, n)}) d2 = d1.groupby('Bucket', as_index = True) r, p = stats.spearmanr(d2.mean().X, d2.mean().Y) n = n - 1 d3 = pd.DataFrame(d2.X.min(), columns = ['min']) d3['min']=d2.min().X d3['max'] = d2.max().X d3['sum'] = d2.sum().Y d3['total'] = d2.count().Y d3['rate'] = d2.mean().Y d3['woe']=np.log((d3['rate']/(1-d3['rate']))/(good/bad)) d3['goodattribute']=d3['sum']/good d3['badattribute']=(d3['total']-d3['sum'])/bad iv=((d3['goodattribute']-d3['badattribute'])*d3['woe']).sum() d4 = (d3.sort_index(by = 'min')).reset_index(drop=True) print("=" * 60) print(d4) cut=[] cut.append(float('-inf')) for i in range(1,n+1): qua=X.quantile(i/(n+1)) cut.append(round(qua,4)) cut.append(float('inf')) woe=list(d4['woe'].round(3)) return d4,iv,cut,woe
生成的IV图代码:
ivlist=[ivx1,ivx2,ivx3,ivx4,ivx5,ivx6,ivx7,ivx8,ivx9,ivx10]#各变量IV index=['x1','x2','x3','x4','x5','x6','x7','x8','x9','x10']#x轴的标签 fig1 = plt.figure(1) ax1 = fig1.add_subplot(1, 1, 1) x = np.arange(len(index))+1 ax1.bar(x, ivlist, width=0.4)#生成柱状图 ax1.set_xticks(x) ax1.set_xticklabels(index, rotation=0, fontsize=12) ax1.set_ylabel('IV(Information Value)', fontsize=14) #在柱状图上添加数字标签 for a, b in zip(x, ivlist): plt.text(a, b + 0.01, '%.4f' % b, ha='center', va='bottom', fontsize=10) plt.show()
输出图像:
图5-6 输出的各变量IV图
能够看出,DebtRatio、MonthlyIncome、NumberOfOpenCreditLinesAndLoans、NumberRealEstateLoansOrLines和NumberOfDependents变量的IV值明显较低,因此予以删除。
本文主要介绍了信用评分模型开发过程当中的数据预处理、探索性分析和变量选择。数据预处理主要针对缺失值用随机森林法和直接剔除法进行处理,对于异常值主要根据实际状况和箱形图的数据分布,对异常值进行剔除;探索性分析主要对各变量的分布状况进行初始的探究;变量选择主要考虑了变量的分箱方法,根据分箱结果计算WOE值,而后检查变量之间的相关性,根据各变量的IV值来选择对数据处理有好效果的变量。
接下来会介绍信用评分模型的模型开发、模型评估和信用评分等。
上一篇文章基于Python的信用评分卡模型分析(一)已经介绍了信用评分卡模型的数据预处理、探索性数据分析、变量分箱和变量选择等。接下来咱们将继续讨论信用评分卡的模型实现和分析,信用评分的方法和自动评分系统。
证据权重(Weight of Evidence,WOE)转换能够将Logistic回归模型转变为标准评分卡格式。引入WOE转换的目的并非为了提升模型质量,只是一些变量不该该被归入模型,这或者是由于它们不能增长模型值,或者是由于与其模型相关系数有关的偏差较大,其实创建标准信用评分卡也能够不采用WOE转换。这种状况下,Logistic回归模型须要处理更大数量的自变量。尽管这样会增长建模程序的复杂性,但最终获得的评分卡都是同样的。
在创建模型以前,咱们须要将筛选后的变量转换为WoE值,便于信用评分。
咱们已经能获取了每一个变量的分箱数据和woe数据,只须要根据各变量数据进行替换,实现代码以下:
#替换成woe函数 def replace_woe(series,cut,woe): list=[] i=0 while i<len(series): value=series[i] j=len(cut)-2 m=len(cut)-2 while j>=0: if value>=cut[j]: j=-1 else: j -=1 m -= 1 list.append(woe[m]) i += 1 return list
咱们将每一个变量都进行替换,并将其保存到WoeData.csv文件中:
# 替换成woe data['RevolvingUtilizationOfUnsecuredLines'] = Series(replace_woe(data['RevolvingUtilizationOfUnsecuredLines'], cutx1, woex1)) data['age'] = Series(replace_woe(data['age'], cutx2, woex2)) data['NumberOfTime30-59DaysPastDueNotWorse'] = Series(replace_woe(data['NumberOfTime30-59DaysPastDueNotWorse'], cutx3, woex3)) data['DebtRatio'] = Series(replace_woe(data['DebtRatio'], cutx4, woex4)) data['MonthlyIncome'] = Series(replace_woe(data['MonthlyIncome'], cutx5, woex5)) data['NumberOfOpenCreditLinesAndLoans'] = Series(replace_woe(data['NumberOfOpenCreditLinesAndLoans'], cutx6, woex6)) data['NumberOfTimes90DaysLate'] = Series(replace_woe(data['NumberOfTimes90DaysLate'], cutx7, woex7)) data['NumberRealEstateLoansOrLines'] = Series(replace_woe(data['NumberRealEstateLoansOrLines'], cutx8, woex8)) data['NumberOfTime60-89DaysPastDueNotWorse'] = Series(replace_woe(data['NumberOfTime60-89DaysPastDueNotWorse'], cutx9, woex9)) data['NumberOfDependents'] = Series(replace_woe(data['NumberOfDependents'], cutx10, woex10)) data.to_csv('WoeData.csv', index=False)
咱们直接调用statsmodels包来实现逻辑回归:
导入数据 data = pd.read_csv('WoeData.csv') #应变量 Y=data['SeriousDlqin2yrs'] #自变量,剔除对因变量影响不明显的变量 X=data.drop(['SeriousDlqin2yrs','DebtRatio','MonthlyIncome', 'NumberOfOpenCreditLinesAndLoans','NumberRealEstateLoansOrLines','NumberOfDependents'],axis=1) X1=sm.add_constant(X) logit=sm.Logit(Y,X1) result=logit.fit() print(result.summary())
输出结果:
图6-1 逻辑回归模型结果.png
经过图6-1可知,逻辑回归各变量都已经过显著性检验,知足要求。
到这里,咱们的建模部分基本结束了。咱们须要验证一下模型的预测能力如何。咱们使用在建模开始阶段预留的test数据进行检验。经过ROC曲线和AUC来评估模型的拟合能力。
在Python中,能够利用sklearn.metrics,它能方便比较两个分类器,自动计算ROC和AUC。
实现代码:
#应变量 Y_test = test['SeriousDlqin2yrs'] #自变量,剔除对因变量影响不明显的变量,与模型变量对应 X_test = test.drop(['SeriousDlqin2yrs', 'DebtRatio', 'MonthlyIncome', 'NumberOfOpenCreditLinesAndLoans','NumberRealEstateLoansOrLines', 'NumberOfDependents'], axis=1) X3 = sm.add_constant(X_test) resu = result.predict(X3)#进行预测 fpr, tpr, threshold = roc_curve(Y_test, resu) rocauc = auc(fpr, tpr)#计算AUC plt.plot(fpr, tpr, 'b', label='AUC = %0.2f' % rocauc)#生成ROC曲线 plt.legend(loc='lower right') plt.plot([0, 1], [0, 1], 'r--') plt.xlim([0, 1]) plt.ylim([0, 1]) plt.ylabel('真正率') plt.xlabel('假正率') plt.show()
输出结果:
图6-2 ROC曲线
从上图可知,AUC值为0.85,说明该模型的预测效果仍是不错的,正确率较高。
咱们已经基本完成了建模相关的工做,并用ROC曲线验证了模型的预测能力。接下来的步骤,就是将Logistic模型转换为标准评分卡的形式。
依据以上论文资料获得:
a=log(p_good/P_bad)
Score = offset + factor * log(odds)
在创建标准评分卡以前,咱们须要选取几个评分卡参数:基础分值、 PDO(比率翻倍的分值)和好坏比。 这里, 咱们取600分为基础分值,PDO为20 (每高20分好坏比翻一倍),好坏比取20。
# 咱们取600分为基础分值,PDO为20(每高20分好坏比翻一倍),好坏比取20。 p = 20 / math.log(2) q = 600 - 20 * math.log(20) / math.log(2) baseScore = round(q + p * coe[0], 0)
我的总评分=基础分+各部分得分
下面计算各变量部分的分数。各部分得分函数:
#计算分数函数 def get_score(coe,woe,factor): scores=[] for w in woe: score=round(coe*w*factor,0) scores.append(score) return scores
计算各变量得分状况:
# 各项部分分数 x1 = get_score(coe[1], woex1, p) x2 = get_score(coe[2], woex2, p) x3 = get_score(coe[3], woex3, p) x7 = get_score(coe[4], woex7, p) x9 = get_score(coe[5], woex9, p)
咱们能够获得各部分的评分卡如图7-1所示:
图7-1 各变量的评分标准
根据变量来计算分数,实现以下:
#根据变量计算分数 def compute_score(series,cut,score): list = [] i = 0 while i < len(series): value = series[i] j = len(cut) - 2 m = len(cut) - 2 while j >= 0: if value >= cut[j]: j = -1 else: j -= 1 m -= 1 list.append(score[m]) i += 1 return list
咱们来计算test里面的分数:
test1 = pd.read_csv('TestData.csv') test1['BaseScore']=Series(np.zeros(len(test1)))+baseScore test1['x1'] = Series(compute_score(test1['RevolvingUtilizationOfUnsecuredLines'], cutx1, x1)) test1['x2'] = Series(compute_score(test1['age'], cutx2, x2)) test1['x3'] = Series(compute_score(test1['NumberOfTime30-59DaysPastDueNotWorse'], cutx3, x3)) test1['x7'] = Series(compute_score(test1['NumberOfTimes90DaysLate'], cutx7, x7)) test1['x9'] = Series(compute_score(test1['NumberOfTime60-89DaysPastDueNotWorse'], cutx9, x9)) test1['Score'] = test1['x1'] + test1['x2'] + test1['x3'] + test1['x7'] +test1['x9'] + baseScore test1.to_csv('ScoreData.csv', index=False)
批量计算的部分分结果:
图8-1 批量计算的部分结果
本文经过对kaggle上的Give Me Some Credit数据的挖掘分析,结合信用评分卡的创建原理,从数据的预处理、变量选择、建模分析到建立信用评分,建立了一个简单的信用评分系统。
基于AI 的机器学习评分卡系统可经过把旧数据(某个时间点后,例如2年)剔除掉后再进行自动建模、模型评估、并不断优化特征变量,使得系统更增强大。
基于R语言的信用评分卡建模分析
信用卡评分模型
信用标准评分卡模型开发及实现
手把手教你用R语言创建信用评分模型
Scorecard 评分卡模型
使用python进行数据清洗
Monotonic Binning with Python
Python异常值处理与检测
结合Scikit-learn介绍几种经常使用的特征选择方法
连接:http://pan.baidu.com/s/1gfEj4n5 密码:55qt