R语言信用风险回归模型中交互做用的分析及可视化

原文连接：http://tecdat.cn/?p=21892 

引言

多元统计分析 中，交互做用是指某因素做用随其余因素水平的不一样而不一样，两因素同时存在是的做用不等于两因素单独做用之和(相加交互做用)或之积(相乘交互做用)。通俗来说就是，当两个或多个因素同时做用于一个结局时，就可能产生交互做用，又称为效应修饰做用(effect modification)。当两个因素同时存在时，所致使的效应(A)不等于它们单独效应相加(B+C)时，则称因素之间存在交互做用。当A=B+C时称不存在交互效应;当A>B+C时称存在正交互做用，又称协同做用(Synergy)。
在一个回归模型中，咱们想写的是

​

当咱们限制为线性模型时，咱们写

​

或者

​

可是咱们怀疑是否缺乏某些因素……好比，咱们错过全部可能的交互影响。咱们能够交互变量，并假设

​

能够进一步扩展，达到3阶

​

甚至更多。

假设咱们的变量 ​ 在这里是定性的，更确切地说是二元的。

信贷数据

让咱们举一个简单的例子，使用信贷数据集。

Credit数据是根据我的的银行贷款信息和申请客户贷款逾期发生状况来预测贷款违约倾向的数据集，数据集包含24个维度的，1000条数据。

该数据集将经过一组属性描述的人员分类为良好或不良信用风险。
数据集将经过一组属性描述的人员分类为良好或不良信用风险。

创建模型

咱们读取数据

db=Credit

咱们从三个解释变量开始，

reg=glm(Y~X1+X2+X3,data=db,family=binomial)
summary(reg)

没有交互的回归长这样

​

这里有几种可能的交互做用（限制为成对的）。进行回归时观察到：

​

交互关系可视化

咱们能够画一幅图来可视化交互：咱们有三个顶点（咱们的三个变量），而且可视化了交互关系

plot(sommetX,sommetY,cex=1,axes=FALSE,xlab="",ylab="",

for(i in 1:nrow(indices)){
segments(sommetX[indices[i,2]],sommetY[indices[i,2]],
text(mean(sommetX[indices[i,2:3]]),mean(sommetY[indices[i,2:3]]),
}

text(sommetX,sommetY,1:k)

这给出了咱们的三个变量

​

这个模型彷佛是不完整的，由于咱们仅成对地看待变量之间的相互做用。实际上，这是由于（在视觉上）缺乏未交互的变量。咱们能够根据须要添加它们

reg=glm(Y~X1+X2+X3+X1:X2+X1:X3+X2:X3,data=db,family=binomial)
k=3
theta=pi/2+2*pi*(0:(k-1))/k
plot(X,Y
for(i in 1:nrow(indices)){
segments(X[indices[i,2]],Y[indices[i,2]],
for(i in 1:k){
cercle(c(cos(theta)[i]*1.18,sin(theta)[i]*1.18),.18)
text(cos(theta)[i]*1.35,sin(theta)[i]*1.35,
points(X,Y,cex=6,pch=1)

这里获得

​

若是咱们更改变量的“_含义_”（经过从新编码，经过排列真值和假值），将得到下图

glm(Y~X1+X2+X3+X1:X2+X1:X3+X2:X3,data=dbinv,family=binomial)
plot(sommetX,sommetY,cex=1
for(i in 1:nrow(indices)){
segments(sommetX[indices[i,2]]
for(i in 1:k){
cercle(c(cos(theta)[i]*1.18,sin(theta)[i]*1.18)

points(sommetX,sommetY,cex=6,pch=19)

而后能够将其与上一张图进行比较

​

使用5个变量，咱们增长了可能的交互做用。

而后，咱们修改前面的代码

formule="Y~1"
for(i in 1:k) formule=paste(formule,"+X",i,sep="")
for(i in 1:nrow(indices)) formule=paste(formule,"+X",indices[i,2],":X",indices[i,3],sep="")
reg=glm(formule,data=db,family=binomial)
plot(sommetX,sommetY,cex=1
for(i in 1:nrow(indices)){
segments(sommetX[indices[i,2]],sommetY[indices[i,2]],
for(i in 1:k){
cercle(c(cos(theta)[i]*1.18,sin(theta)[i]*1.18)
points(sommetX,sommetY,cex=6

给出了更复杂的图，

​

咱们也能够只采用2个变量，分别取3和4种指标。为第一个提取两个指标变量（其他形式为参考形式），为第二个提取三个指标变量，

formule="Y~1"
for(i in 1:k) formule=paste(formule,"+X",i,sep="")
for(i in 1:nrow(indices)formule=paste(formule,"+X",indices[i,2],":X",indices[i,3],sep="")
reg=glm(formule,data=db,family=binomial)
for(i in 1:nrow(indices){
if(!is.na(coefficients(reg)[1+k+i])){
segments(X[indices[i,2]],Y[indices[i,2]],
}
for(i in 1:k){
cercle(c(cos(theta)[i]*1.18,sin(theta)[i]*1.18),.18)
text(cos(theta)[i]*1.35,sin(theta)[i]*1.35,
}

咱们看到，在左边的部分（相同变量的三种指标）和右边的部分再也不有可能发生交互做用。

​

咱们还能够经过仅可视化显著交互来简化图形。

for(i in 1:nrow(indices)){
if(!is.na(coefficients(reg)[1+k+i])){
if(summary(reg)$coefficients[1+k+i,4]<.1){

​

在这里，只有一个交互做用是显著的，几乎全部的变量都是显著的。若是咱们用5个因子从新创建模型，

for(i in 1:nrow(indices))
formule=paste(formule,"+X",indices[i,2],":X",indices[i,3],sep="")
reg=glm(formule,data=db,family=binomial)

for(i in 1:nrow(indices){
if(!is.na(coefficients(reg)[1+k+i])){
if(summary(reg)$coefficients[1+k+i,4]<.1){

咱们获得

​

---

​

最受欢迎的看法

1.R语言多元Logistic逻辑回归 应用案例

2.面板平滑转移回归(PSTR)分析案例实现

3.matlab中的偏最小二乘回归（PLSR）和主成分回归（PCR）

4.R语言泊松Poisson回归模型分析案例

5.R语言回归中的Hosmer-Lemeshow拟合优度检验

6.r语言中对LASSO回归，Ridge岭回归和Elastic Net模型实现

7.在R语言中实现Logistic逻辑回归

8.python用线性回归预测股票价格

9.R语言如何在生存分析与Cox回归中计算IDI，NRI指标