银行客户信用风险评估项目

银行客户信用风险评估项目

只有代码，如果需要代码加截图请到资源下载

要求：

补全并调试每部分代码，在代码后面附输出结果截图。

说明：

4.5-4.10特征分布，做法相同（第一次）

4.11-4.14连续型数据特征分布，做法相同（第一次）

4.15-4.36 离散型数据和连续型数据的缺失值处理（第二次）

4.37-4.38 数字编码和One-Hot编码（第二次）

5.1-5.7 新增评估指标计算（第三次）

6.1-6.12 风控模型：逻辑回归和随机森林（第三次：逻辑回归；第四次：随机森林）

7.1-7.10 风险评估模型效果评估方法（第四次）

数据集描述：

3.2 从data.csv文件中读取客户数据

3.3 对数据进行格式转换

import pandas as pd

data= pd.read_csv('data.csv',encoding='gbk')

data = pd.DataFrame(data)

data.head()

输出结果截图：

4.1 数据探索分析

4.2 查看数据前五行

import pandas as pd

# 使用head()函数查看数据前五行

data_5 = ____

print(data_5)

输出结果截图：

4.3 查看数据集的基本情况

data.info()

4.4 查看数据的基本统计信息

import pandas as pd

# 使用describe()函数查看数据整体的基本统计信息

data_des = ____

print(data_des)

输出结果截图：

4.5 是否违约（Default）特征分析

import pandas as pd

import matplotlib.pyplot as plt

fig = plt.figure(figsize=(8,6))

# 绘制柱状图，查看违约关系的取值分布情况

____

# 在柱形上方显示计数

counts = data['Default'].value_counts(dropna=False).values

for index, item in zip([0,1,2], counts):

    plt.text(index, item, item, ha="center", va= "bottom", fontsize=12)

# 设置柱形名称

____

# 设置x、y轴标签

____

# 设置标题以及字体大小

____

# 设置中文显示

plt.rcParams['font.sans-serif']=['SimHei']

plt.rcParams['font.family']=['sans-serif']

plt.show()

4.6 城市级别（CityId）特征分布

import seaborn as sns

import matplotlib.pyplot as plt

#建立画布ax1和ax2,及设置图像大小，设置subplots()函数中参数为(1,2)表示两画图呈一行两列

fig,[ax1,ax2] = plt.subplots(1,2,figsize=(16,6))

# 对CityId列的类别设定顺序

data['CityId'] = data['CityId'].astype('category')

data['CityId'] = data['CityId'].cat.set_categories(['一线城市', '二线城市', '其它'],ordered=True)

# 绘制柱状图，查看不同城市级别在不同是否违约的取值分布情况

____

# 将具体的计数值显示在柱形上方

counts=data['Default'].groupby(data['CityId']).value_counts().values

count1 = counts[[0, 2, 4]]

count2 = counts[[1, 3, 5]]

for index, item1, item2 in zip([0,1,2], count1, count2):

    ax1.text(index-0.2, item1 + 0.05, '%.0f' % item1, ha="center", va= "bottom",fontsize=12)

    ax1.text(index+0.2, item2 + 0.05, '%.0f' % item2, ha="center", va= "bottom",fontsize=12)

    

# 绘制柱状图查看违约率分布

cityid_rate = data.groupby('CityId')['Default'].sum() / data.groupby('CityId')['Default'].count()

____

# 将具体的计数值显示在柱形上方

for index, item in zip([0,1,2], cityid_rate):

     ax2.text(index, item, '%.3f' % item, ha="center", va= "bottom",fontsize=12)

        

#设置柱形名称

____

# 设置图例名称

____

# 设置标题以及字体大小

____

# 设置x,y轴标签

____

#显示汉语标注

plt.rcParams['font.sans-serif']=['SimHei']

plt.rcParams['font.family']=['sans-serif']

plt.show()

4.7 文化程度（education）特征分布

import seaborn as sns

import matplotlib.pyplot as plt

fig,[ax1,ax2] = plt.subplots(1,2,figsize=(16,6))

# 对education列的类别设定顺序

data['education'] = data['education'].astype('category')

data['education'] = data['education'].cat.set_categories(['小学', '初中', '高中', '本科以上'],ordered=True)

# 绘制柱状图，查看不同文化程度(education)在不同是否违约(Default)的取值分布情况

____

# 将具体的计数值显示在柱形上方

counts=data['Default'].groupby(data['education']).value_counts().values

count1 = counts[[0, 2, 4,6]]

count2 = counts[[1, 3, 5,7]]

for index, item1, item2 in zip([0,1,2,3], count1, count2):

    ax1.text(index-0.2, item1 + 0.05, '%.0f' % item1, ha="center", va= "bottom",fontsize=12)

    ax1.text(index+0.2, item2 + 0.05, '%.0f' % item2, ha="center", va= "bottom",fontsize=12)

# 绘制柱状图查看违约率分布

education_rate = data.groupby('education')['Default'].sum() / data.groupby('education')['Default'].count()

sns.barplot(x=[0,1,2,3],y=education_rate.values,ax=ax2)

# 将具体的计数值显示在柱形上方

for index, item in zip([0,1,2,3], education_rate):

     ax2.text(index, item, '%.2f' % item, ha="center", va= "bottom",fontsize=12)

        

# 设置柱形名称

____

# 设置图例名称

____

# 设置标题以及字体大小

____

# 设置x,y轴标签

____

#显示汉语标注

plt.rcParams['font.sans-serif']=['SimHei']

plt.rcParams['font.family']=['sans-serif']

plt.show()

4.8 三要素（threeVerify）特征分布

import seaborn as sns

import matplotlib.pyplot as plt

fig,[ax1,ax2] = plt.subplots(1,2,figsize=(16,6))

# 对threeVerify列的类别设定顺序

data['threeVerify'] = data['threeVerify'].astype('category')

data['threeVerify'] = data['threeVerify'].cat.set_categories(['一致','不一致'],ordered=True)

# 绘制柱状图，查看不同三要素验证情况(threeVerify)在不同是否违约(Default)的取值分布情况

____

# 将具体的计数值显示在柱形上方

counts=data['Default'].groupby(data['threeVerify']).value_counts().values

count1 = counts[[0, 2]]

count2 = counts[[1, 3]]

for index, item1, item2 in zip([0,1,2,3], count1, count2):

    ax1.text(index-0.2, item1 + 0.05, '%.0f' % item1, ha="center", va= "bottom",fontsize=12)

    ax1.text(index+0.2, item2 + 0.05, '%.0f' % item2, ha="center", va= "bottom",fontsize=12)

# 绘制柱状图查看违约率分布

threeVerify_rate = data.groupby('threeVerify')['Default'].sum() / data.groupby('threeVerify')['Default'].count()

sns.barplot(x=[0,1],y=threeVerify_rate.values,ax=ax2)

# 将具体的计数值显示在柱形上方

for index, item in zip([0,1], threeVerify_rate):

     ax2.text(index, item, '%.2f' % item, ha="center", va= "bottom",fontsize=12)

        

# 设置柱形名称

____

# 设置图例名称

____

# 设置标题以及字体大小

____

# 设置x,y轴标签

____

#显示汉语标注

plt.rcParams['font.sans-serif']=['SimHei']

plt.rcParams['font.family']=['sans-serif']

plt.show()

4.9 婚姻状况（maritalStatus）特征分布

import seaborn as sns

import matplotlib.pyplot as plt

fig,[ax1,ax2] = plt.subplots(1,2,figsize=(16,6))

# 对maritalStatus列的类别设定顺序

data['maritalStatus'] = data['maritalStatus'].astype('category')

data['maritalStatus'] = data['maritalStatus'].cat.set_categories(['未婚','已婚'],ordered=True)

# 绘制柱状图，查看不同婚姻状况在不同违约情况的取值分布

____

# 将具体的计数值显示在柱形上方

counts=data['Default'].groupby(data['maritalStatus']).value_counts().values

count1 = counts[[0, 2]]

count2 = counts[[1, 3]]

for index, item1, item2 in zip([0,1,2,3], count1, count2):

    ax1.text(index-0.2, item1 + 0.05, '%.0f' % item1, ha="center", va= "bottom",fontsize=12)

    ax1.text(index+0.2, item2 + 0.05, '%.0f' % item2, ha="center", va= "bottom",fontsize=12)

# 绘制柱状图查看违约率分布

maritalStatus_rate = data.groupby('maritalStatus')['Default'].sum() / data.groupby('maritalStatus')['Default'].count()

____

# 将具体的计数值显示在柱形上方

for index, item in zip([0,1], maritalStatus_rate):

     ax2.text(index, item, '%.2f' % item, ha="center", va= "bottom",fontsize=12)

        

# 设置柱形名称

____

# 设置图例名称

____

# 设置标题以及字体大小

____

# 设置x,y轴标签

____

#显示汉语标注

plt.rcParams['font.sans-serif']=['SimHei']

plt.rcParams['font.family']=['sans-serif']

plt.show()

4.10 在网时长（netLength）特征分布

import seaborn as sns

import matplotlib.pyplot as plt

fig,[ax1,ax2] = plt.subplots(1,2,figsize=(16,6))

# 对netLength列的类别设定顺序

data['netLength'] = data['netLength'].astype('category')

data['netLength'] = data['netLength'].cat.set_categories(['0-6个月','6-12个月','12-24个月','24个月以上','无效'],ordered=True)

# 绘制柱状图，查看不同在网时长在不同违约情况的取值分布

____

# 将具体的计数值显示在柱形上方

counts=data['Default'].groupby(data['netLength']).value_counts().values

count1 = counts[[0,2,4,6,8]]

count2 = counts[[1,3,5,7,9]]

# 将具体的计数值显示在柱形上方

for index, item1, item2 in zip([0,1,2,3,4], count1, count2):

    ax1.text(index-0.2, item1 + 0.05, '%.0f' % item1, ha="center", va= "bottom",fontsize=12)

    ax1.text(index+0.2, item2 + 0.05, '%.0f' % item2, ha="center", va= "bottom",fontsize=12)

# 绘制柱状图查看违约率分布

netLength_rate = data.groupby('netLength')['Default'].sum() / data.groupby('netLength')['Default'].count()

____

# 将具体的计数值显示在柱形上方

for index, item in zip([0,1,2,3,4], netLength_rate):

     ax2.text(index, item, '%.2f' % item, ha="center", va= "bottom",fontsize=12)

        

# 设置柱形名称

____

# 设置图例名称

____

# 设置标题以及字体大小

____

# 设置x,y轴标签

____

#显示汉语标注

plt.rcParams['font.sans-serif']=['SimHei']

plt.rcParams['font.family']=['sans-serif']

plt.show()

4.11 总消费金额（transTotalAmt）的分布

import seaborn as sns

import matplotlib.pyplot as plt

# 建立画布ax1和ax2,及设置图像大小，设置subplots()函数中参数为(1,2)表示两画图呈一行两列

fig, [ax1,ax2] = plt.subplots(1, 2, figsize=(16, 5))

# 在画布ax1中画出总消费金额的核密度图

____

# 在画布ax2中画出总消费笔数和总消费金额的回归关系图

____

4.12 年龄和开卡时长分布

import seaborn as sns

import matplotlib.pyplot as plt

# 建立画布ax1和ax2,及设置图像大小，设置subplots()函数中参数为(1,2)表示一行两列

fig,[ax1,ax2] = plt.subplots(1,2,figsize=(16,6))

# 在画布ax1中绘制年龄的直方图，颜色为红色

___

# 在画布ax2中绘制开卡时长的直方图，颜色为默认值

___

# 在画布ax1、ax2中设置标题

___

# 显示汉语标注

plt.rcParams['font.sans-serif']=['SimHei']

plt.rcParams['font.family']=['sans-serif']

4.13 总取现金额（cashTotalAmt）的分布

import seaborn as sns

import matplotlib.pyplot as plt

# 建立画布ax1和ax2,及设置图像大小，设置subplots()函数中参数为(1,2)表示两画图呈一行两列

fig, [ax1,ax2] = plt.subplots(1, 2, figsize=(16, 5))

# 在画布ax1中画出总取现金额的核密度图

____

# 在画布ax2中画出总取现笔数和总取现金额的回归关系图

____

4.14 网上消费金额（onlineTransAmt）的分布

import seaborn as sns

import matplotlib.pyplot as plt

# 建立画布ax1和ax2,及设置图像大小，设置subplots()函数中参数为(1,2)表示两画图呈一行两列

fig, [ax1,ax2] = plt.subplots(1, 2, figsize=(16, 5))

# 在画布ax1中画出网上消费金额的核密度估计曲线

_____

# 在画布ax2中画出网上消费笔数和网上消费金额的回归关系图

_____

4.15 查看存在缺失值的特征

# 计算特征缺失值个数

na_counts = ___

# 将na_counts取大于0的部分进行降序排序

missing_value = na_counts[na_counts > 0].___

# 查看存在缺失值的特征

print(missing_value)

4.16 离散型特征的缺失值处理

#实训平台的数据经过处理 在这个地方可以直接对数据进行缺失值的处理,但是在jupyter导入数据之后对数据有一个转换过程,所以直接对数据进行缺失值的处理是会报错,通过Series.cat.add_categories 可以对数据添加一个新的类,进而达到对数据缺失值的处理这个目的

import pandas as pd

# 缺失值处理

data.dropna(subset=['Default'],inplace=True)

#filling_columns=['sex','maritalStatus','threeVerify','idVerify','education']

#for column in filling_columns:

    #data[column] = data[column].cat.add_categories('未知')

    #data[column].fillna('未知',inplace=True)

#data['sex'] = data['sex'].cat.add_categories('未知')

data['sex'].fillna('未知', inplace =True)

#data['maritalStatus'] = data['maritalStatus'].cat.add_categories('未知')

data['maritalStatus'].fillna('未知', inplace =True)

#data['threeVerify'] = data['threeVerify'].cat.add_categories('未知')

data['threeVerify'].fillna('未知', inplace =True)

#data['idVerify'] = data['idVerify'].cat.add_categories('未知')

data['idVerify'].fillna('未知', inplace =True)

#data['education'] = data['education'].cat.add_categories('未知')

data['education'].fillna('未知', inplace =True)

# 查看存在缺失值的特征

na_counts = data.isnull().sum()

missing_value = na_counts[na_counts > 0].sort_values(ascending = False)

print(missing_value)

4.17 离散型特征的异常值处理

import pandas as pd

# 异常值处理，将isCrime值为“2”的地方改为“0”。

data['isCrime'] = ____

# 查看处理后的数据情况

print(data['isCrime'].value_counts())

4.18 查看连续性特征的取值

# 所有连续型特征列名已保存在continuous_columns中

continuous_columns = ['age','cashTotalAmt','cashTotalCnt','monthCardLargeAmt','onlineTransAmt','onlineTransCnt','publicPayAmt','publicPayCnt','transTotalAmt','transTotalCnt','transCnt_non_null_months','transAmt_mean','transAmt_non_null_months','cashCnt_mean','cashCnt_non_null_months','cashAmt_mean','cashAmt_non_null_months','card_age']

# 查看数据各连续型特征的最小值

data_con_min = ____

print(data_con_min)

4.19 网上消费金额（onlineTransAmt）异常值检测

# 从原始数据中筛选出网上消费金额小于0时，网上消费金额和网上消费笔数这两列

online_trans = _____

print(online_trans)

4.20 网上消费金额（onlineTransAmt）异常值处理

# 将网上消费笔数为0时的网上消费金额皆修改为0

____

# 查看修正后网上消费笔数为0时，网上消费金额与网上消费笔数

online_after = data[data["onlineTransCnt"]  == 0 ][["onlineTransAmt","onlineTransCnt"]]

print(online_after)

4.21 网上消费金额（onlineTransAmt）盒图绘制

import seaborn as sns

import matplotlib.pyplot as plt

fig,ax = plt.subplots(figsize=(8,6))

# 绘制盒图查看网上消费金额数据分布

___

plt.title('onlineTransAmt distribution')

4.22 网上消费金额（onlineTransAmt）异常值处理

# 筛选出网上消费金额在2千万以下的数据样本,更新data

data = ___

print(data.head())

4.23 公共事业缴费金额（publicPayAmt）异常值检测

# 从原始数据中筛选出公共事业缴费金额小于0时，公共事业缴费笔数和公共事业缴费金额这两列

public_pay = ___

print(public_pay)

4.24 公共事业缴费金额（publicPayAmt）异常值处理

# 将公共事业缴费笔数为0时的公共事业缴费金额皆修改为0（直接在原始数据上进行修改）

___

# 查看修正后的，公共事业缴费笔数为0时的公共事业缴费金额与公共事业缴费笔数

public_after = data[data["publicPayCnt"]  ==  0][["publicPayAmt","publicPayCnt"]]

print(public_after)

4.25 公共事业缴费金额（publicPayAmt）盒图绘制

import seaborn as sns

import matplotlib.pyplot as plt

fig,ax = plt.subplots(figsize=(8,6))

# 绘制盒图查看公共事业缴费金额数据分布。

___

plt.title('publicPayAmt distribution')

4.26 公共事业缴费金额（publicPayAmt）异常值处理

# 筛选出公共事业缴费金额小于-400万的样本数据

public_pay = ___

print(public_pay[['publicPayCnt','publicPayAmt']])

4.27 总消费金额（transTotalAmt）异常值检测

# 从原始数据中筛选出总消费笔数等于0时，总消费笔数，总消费金额这两列

transTotal = ___

print(transTotal)

4.28 总消费金额（transTotalAmt）盒图绘制

import seaborn as sns

import matplotlib.pyplot as plt

fig,ax = plt.subplots(figsize=(8,6))

# 绘制盒图，查看总消费金额数据分布。

___

plt.title('transTotalAmt distribution')

4.29 总消费金额（transTotalAmt）异常值处理

# 筛选出总消费金额大于1000万的样本数据

transTotal = ___

print(transTotal[['transTotalAmt','transTotalCnt','onlineTransAmt','onlineTransCnt','monthCardLargeAmt']])

4.30 总取现金额（cashTotalAmt）异常值检测

# 筛选出总取现笔数为0时，总取现笔数，总取现金额这两列

cashTotal = ___

print(cashTotal)

4.31 总取现金额（cashTotalAmt）盒图绘制

import seaborn as sns

import matplotlib.pyplot as plt

fig,ax = plt.subplots(figsize=(8,6))

# 绘制盒图，查看总取现金额数据分布。

___

plt.title('cashTotalAmt distribution')

4.32 总取现金额（cashTotalAmt）异常值处理

# 筛选出总取现金额大于50万的样本数据。

cashTotal = ___

print(cashTotal)

4.33 月最大消费金额（monthCardLargeAmt）盒图绘制

import seaborn as sns

import matplotlib.pyplot as plt

fig,ax = plt.subplots(figsize=(8,6))

# 绘制盒图，查看月最大消费金额数据分布

___

plt.title('monthCardLargeAmt distribution')

4.34 月最大消费金额（monthCardLargeAmt）异常值处理

# 筛选出月最大消费金额大于200万的数据

monthCard = ___

print(monthCard)

4.35 总消费笔数（transTotalCnt）盒图绘制

import seaborn as sns

import matplotlib.pyplot as plt

fig,ax = plt.subplots(figsize=(8,6))

# 绘制盒图，查看总消费笔数数据分布

___

plt.title('transTotalCnt distribution')

4.36 总消费笔数（transTotalCnt）异常值处理

# 从data中筛选总消费笔数小于6000的值，赋值给data

data = ___

print(data.head())

4.37 数字编码

import numpy as np

import pandas as pd

data["maritalStatus"] = data["maritalStatus"].map({"未知":0,"未婚":1,"已婚":2})

data['education']= ____

data['idVerify']= ____

data['threeVerify']= ____

data["netLength"] = ____

data["sex"] = ____

data["CityId"] = ____

print(data.head())

4.38 One-Hot编码

import numpy as np

import pandas as pd

data = pd.get_dummies(data=data,columns=['maritalStatus','education','idVerify','threeVerify','Han','netLength','sex','CityId'],prefix_sep='_')

print(data.columns)

5.1 建立信用评估指标体系

5.2 年消费总额指标计算

# 计算客户年消费总额。

trans_total =____

# 将计算结果保留到小数点后六位。

trans_total =____

# 将结果加在data数据集中的最后一列，并将此列命名为trans_total。

data['trans_total'] =____

print(data['trans_total'].head(20))

5.3 年取现总额指标计算

# 计算客户年取现总额。

total_withdraw =____

# 将计算结果保留到小数点后六位。

total_withdraw =____

# 将结果加在data数据集的最后一列，并将此列命名为total_withdraw。

data['total_withdraw'] =____

print(data['total_withdraw'].head(20))

5.4 平均每笔取现金额指标计算

import numpy as np

# 计算客户的平均每笔取现金额。

avg_per_withdraw =____

# 将所有的inf和NaN变为0。

____

# 将计算结果保留到小数点后六位。

avg_per_withdraw =____

# 将结果加在data数据集的最后一列，并将此列命名为avg_per_withdraw。

data['avg_per_withdraw'] =____

print(data['avg_per_withdraw'].head(20))

5.5 网上平均每笔消费额指标计算

import numpy as np

# 请计算客户的网上平均每笔消费额。

avg_per_online_spend =____

# 将所有的inf和NaN变为0。

____

# 将计算结果保留到小数点后六位。

avg_per_online_spend =____

# 将结果加在data数据集的最后一列，并将此列命名为avg_per_online_spend。

data['avg_per_online_spend'] =____

print(data['avg_per_online_spend'].head(20))

5.6 公共事业平均每笔缴费额指标计算

import numpy as np

# 请计算客户的公共事业平均每笔缴费额。

avg_per_public_spend =____

# 将所有的inf和NaN变为0。

____

# 将计算结果保留到小数点后六位。

avg_per_public_spend =____

# 将结果加在data数据集的最后一列，并将此列命名为avg_per_public_spend。

data['avg_per_public_spend'] =____

print(data['avg_per_public_spend'].head(20))

5.7 不良记录指标计算

#请计算客户的不良记录分数。

bad_record =____

#将计算结果加在data数据集的最后一列，并将此列命名为bad_record。

data['bad_record'] =____

print(data['bad_record'].head(20))

6.1 构建风控模型流程

6.2 分层采样简介

6.3 训练集和测试集划分

from sklearn.model_selection import train_test_split

# 筛选data中的Default列的值，赋予变量y

y = data['Default'].values

# 筛选除去Default列的其他列的值，赋予变量x

x = data.drop(['Default'], axis=1).values

# 使用train_test_split方法，将x,y划分训练集和测试集

x_train, x_test, y_train, y_test = ____

# 查看划分后的x_train与x_test的长度

len_x_train = len(x_train)

len_x_test = len(x_test)

print('x_train length: %d, x_test length: %d'%(len_x_train,len_x_test))

# 查看分层采样后的训练集中违约客户人数的占比

train_ratio = y_train.sum()/len(y_train)

print(train_ratio)

# 查看分层采样后的测试集中违约客户人数的占比

test_ratio = y_test.sum()/len(y_test)

print(test_ratio)

6.4 使用逻辑回归建立风险评估模型

from sklearn.linear_model import LogisticRegression

# 调用模型，新建模型对象

lr = ____

# 带入训练集x_train, y_train进行训练

lr____

# 对训练好的lr模型调用predict方法,带入测试集x_test进行预测

y_predict = ____

# 查看模型预测结果

print(y_predict[:10])

print(len(y_predict))

6.5 逻辑回归风控模型效果评估

from sklearn.metrics import roc_auc_score

y_predict_proba = ____

# 查看概率估计前十行

print(y_predict_proba[:10])

# 取目标分数为正类(1)的概率估计

y_predict = ____

# 利用roc_auc_score查看模型效果

test_auc = ____

print('逻辑回归模型 test_auc:',test_auc)

6.6 逻辑回归参数调优

from sklearn.metrics import roc_auc_score

from sklearn.linear_model import LogisticRegression

# 建立一个LogisticRegression对象，命名为lr

lr = ____

# 对lr对象调用fit方法，带入训练集x_train, y_train进行训练

lr.____

# 对训练好的lr模型调用predict_proba方法

y_predict = ____[:,1]

# 调用roc_auc_score方法

test_auc = ____

print('逻辑回归模型test auc:')

print(test_auc)

6.7 使用标准化提升逻辑回归模型效果

continuous_columns = ['age','cashTotalAmt','cashTotalCnt','monthCardLargeAmt','onlineTransAmt','onlineTransCnt','publicPayAmt','publicPayCnt','transTotalAmt','transTotalCnt','transCnt_non_null_months','transAmt_mean','transAmt_non_null_months','cashCnt_mean','cashCnt_non_null_months','cashAmt_mean','cashAmt_non_null_months','card_age', 'trans_total','total_withdraw', 'avg_per_withdraw','avg_per_online_spend', 'avg_per_public_spend', 'bad_record','transCnt_mean','noTransWeekPre']

# 对data中所有连续型的列进行Z-score标准化

____

# 查看标准化后的数据的均值和标准差，以cashAmt_mean为例

print('cashAmt_mean标准化后的均值：',data['cashAmt_mean'].mean())

print('cashAmt_mean标准化后的标准差：',data['cashAmt_mean'].std())

# 查看标准化后对模型的效果提升

y = data['Default'].values

x = data.drop(['Default'], axis=1).values

x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.2,random_state = 33,stratify=y)

from sklearn.metrics import roc_auc_score

from sklearn.linear_model import LogisticRegression

lr = LogisticRegression(penalty='l1',C=0.6,class_weight='balanced')

lr.fit(x_train, y_train)

# 查看模型预测结果

y_predict = lr.predict_proba(x_test)[:,1]

auc_score =roc_auc_score(y_test,y_predict)

print('score:',auc_score)

6.8 使用离散化提升逻辑回归模型效果

continuous_columns = ['age','cashTotalAmt','cashTotalCnt','monthCardLargeAmt','onlineTransAmt','onlineTransCnt','publicPayAmt','publicPayCnt','transTotalAmt','transTotalCnt','transCnt_non_null_months','transAmt_mean','transAmt_non_null_months','cashCnt_mean','cashCnt_non_null_months','cashAmt_mean','cashAmt_non_null_months','card_age', 'trans_total','total_withdraw', 'avg_per_withdraw','avg_per_online_spend', 'avg_per_public_spend', 'bad_record','transCnt_mean','noTransWeekPre']

# 对data中数值连续型的列进行等频离散化，将每一列都离散为5个组。

____

# 查看离散化后的数据

print(data.head())

# 查看离散化后对模型的效果提升

# 先对各离散组进行One-Hot处理

data=pd.get_dummies(data)

y = data['Default'].values

x = data.drop(['Default'], axis=1).values

x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.2,random_state = 33,stratify=y)

from sklearn.linear_model import LogisticRegression

from sklearn.metrics import roc_auc_score

lr = LogisticRegression(penalty='l1',C=0.6,class_weight='balanced')

lr.fit(x_train, y_train)

# 查看模型预测结果

y_predict = lr.predict_proba(x_test)[:,1]

score_auc = roc_auc_score(y_test,y_predict)

print('score:',score_auc)

6.9 使用随机森林建立风险评估模型

from sklearn.ensemble import RandomForestClassifier

from sklearn.metrics import roc_auc_score

rf_clf = ___

rf_clf.____

y_predict = ___

# 查看模型效果

test_auc = roc_auc_score(y_test,y_predict)

print ("AUC Score (Test): %f" % test_auc)

6.10 随机森林决策树数目参数调优

from sklearn.ensemble import RandomForestClassifier

from sklearn.metrics import roc_auc_score

# 尝试设置参数n_estimators

rf_clf1 =  RandomForestClassifier(n_estimators=_____)

rf_clf1.fit(x_train, y_train)

y_predict1 = rf_clf1.predict_proba(x_test)[:,1]

# 查看模型效果

test_auc = roc_auc_score(y_test,y_predict1)

print ("AUC Score (Test): %f" % test_auc)

6.11 随机森林参数调优

from sklearn.ensemble import RandomForestClassifier

from sklearn.metrics import roc_auc_score

import matplotlib.pyplot as plt

# 定义存储AUC分数的数组

scores_train=[]

scores_test=[]

# 定义存储n_estimators取值的数组

estimators=[]

# 设置n_estimators在100-210中每隔20取一个数值

for i in range(_,_,_):

        estimators.append(i)

        rf = RandomForestClassifier(n_estimators=i, random_state=12)

        rf.fit(x_train,y_train)

        y_predict = ____

        scores_test.append(roc_auc_score(y_test,y_predict))

# 查看我们使用的n_estimators取值

print("estimators =", estimators)

# 查看以上模型中在测试集最好的评分

print("best_scores_test =",max(scores_test))

# 画出n_estimators与AUC的图形

fig,ax = plt.subplots()

# 设置x y坐标名称

ax.set_xlabel('estimators')

ax.set_ylabel('AUC分数')

plt.plot(____, ____, label='测试集')

#显示汉语标注

plt.rcParams['font.sans-serif']=['SimHei']

plt.rcParams['font.family']=['sans-serif']

# 设置图例

plt.legend(loc="lower right")

plt.show()

6.12 使用网格搜索进行随机森林参数调优

from sklearn.model_selection import GridSearchCV

from sklearn.ensemble import RandomForestClassifier

from sklearn.metrics import roc_auc_score

rf = RandomForestClassifier()

# 设置需要调试的参数

tuned_parameters = ____

# 调用网格搜索函数

rf_clf = ___

rf_clf.fit(x_train, y_train)

y_predict = ___

test_auc = ___

print ('随机森林模型test AUC:')

print (test_auc)

7.1 风险评估模型效果评价方法

7.2 利用ROC_AUC评估逻辑回归模型准确性

#用metrics.roc_curve()求出 fpr, tpr, threshold

from sklearn.metrics import roc_curve, auc

fpr, tpr, threshold = ____

#用metrics.auc求出roc_auc的值

roc_auc = ____

#将图片大小设为8:6

fig,ax = plt.subplots(figsize=(8,6))

#将plt.plot里的内容填写完整

plt.plot(____, ____, label = 'AUC = %0.2f' % ____)

#将图例显示在右下方

plt.legend(loc = 'lower right')

#画出一条红色对角虚线

plt.plot([0, 1], [0, 1],'r--')

#设置横纵坐标轴范围

plt.xlim([-0.01, 1.01])

plt.ylim([-0.01, 1.01])

#设置横纵名称以及图形名称

plt.ylabel('True Positive Rate')

plt.xlabel('False Positive Rate')

plt.title('Receiver Operating Characteristic Curve')

plt.show()

7.3 利用ROC_AUC评估随机森林模型准确性

#用metrics.roc_curve()求出 fpr, tpr, threshold

from sklearn.metrics import roc_curve, auc

fpr, tpr, threshold = ____

#用metrics.auc求出roc_auc的值

roc_auc = ____

#将图片大小设为8:6

fig,ax = plt.subplots(figsize=(8,6))

#将plt.plot里的内容填写完整

plt.plot(____, ____, label = 'AUC = %0.2f' % ____)

#将图例显示在右下方

plt.legend(loc = 'lower right')

#画出一条红色对角虚线

plt.plot([0, 1], [0, 1],'r--')

#设置横纵坐标轴范围

plt.xlim([-0.01, 1.01])

plt.ylim([-0.01, 1.01])

#设置横纵名称以及图形名称

plt.ylabel('True Positive Rate')

plt.xlabel('False Positive Rate')

plt.title('Receiver Operating Characteristic Curve')

plt.show()

7.4 利用KS值评估逻辑回归模型准确性

#用metric.roc_curve()求出 fpr, tpr, threshold

from sklearn.metrics import roc_curve

fpr, tpr, threshold = roc_curve(y_test, y_predict)

#求出KS值和相应的阈值

ks = ____

thre = _____

ks = round(ks*100, 2)

thre = round(thre, 2)

print('KS值：', ks,  '%', '阈值：', thre)

#将图片大小设为8:6

fig = plt.figure(figsize=(8,6))

#将plt.plot里的内容填写完整

plt.plot(____, ____, lw=1, alpha=1,label='真正率TPR')

plt.plot(____, ____, lw=1, alpha=1,label='假正率FPR')

#画出KS值的直线

ks_tpr = tpr[abs(tpr-fpr).argmax()]

ks_fpr = fpr[abs(tpr-fpr).argmax()]

x1 = [thre, thre]

x2 = [ks_fpr, ks_tpr]

plt.plot(x1, x2)

#设置横纵名称以及图例

plt.xlabel('阈值')

plt.ylabel('真正率TPR/假正率FPR')

plt.title('KS曲线', fontsize=15)

plt.legend(loc="upper right")

plt.grid(axis='x')

# 在图上标注ks值

plt.annotate('KS值', xy=(0.18, 0.45), xytext=(0.25, 0.43),

             fontsize=20,arrowprops=dict(facecolor='green', shrink=0.01))

7.5 利用KS值评估随机森林模型准确性

#用metric.roc_curve()求出 fpr, tpr, threshold

from sklearn.metrics import roc_curve

fpr, tpr, threshold = roc_curve(y_test, y_predict)

#求出KS值和相应的阈值

ks = ____

thre = _____

ks = round(ks*100, 2)

thre = round(thre, 2)

print('KS值：', ks,  '%', '阈值：', thre)

#将图片大小设为8:6

fig = plt.figure(figsize=(8,6))

#将plt.plot里的内容填写完整

plt.plot(____, ____, lw=1, alpha=1,label='真正率TPR')

plt.plot(____, ____, lw=1, alpha=1,label='假正率FPR')

#画出KS值的直线

ks_tpr = tpr[abs(tpr-fpr).argmax()]

ks_fpr = fpr[abs(tpr-fpr).argmax()]

x1 = [thre, thre]

x2 = [ks_fpr, ks_tpr]

plt.plot(x1, x2)

#设置横纵名称以及图例

plt.xlabel('阈值')

plt.ylabel('真正率TPR/假正率FPR')

plt.title('KS曲线', fontsize=15)

plt.legend(loc="upper right")

plt.grid(axis='x')

# 在图上标注ks值

plt.annotate('KS值', xy=(0.26, 0.45), xytext=(0.30, 0.43),

             fontsize=20,arrowprops=dict(facecolor='green', shrink=0.01))

7.6 利用PSI评估逻辑回归模型稳定性

## 训练集预测概率

y_train_probs = lr.predict_proba(x_train)[:,1]

## 测试集预测概率

y_test_probs = lr.predict_proba(x_test)[:,1]

def psi(y_train_probs, y_test_probs):

    ## 设定每组的分点

    bins = np.arange(0, 1.1, 0.1)

    

    ## 将训练集预测概率分组

    y_train_probs_cut = pd.cut(y_train_probs, bins=bins, labels=False)

    ## 计算预期占比

    expect_prop = (pd.Series(y_train_probs_cut).value_counts()/len(y_train_probs)).sort_index()

    

    ## 将测试集预测概率分组

    y_test_probs_cut = pd.cut(y_test_probs, bins=bins, labels=False)

    ## 计算实际占比

    actual_prop = (pd.Series(y_test_probs_cut).value_counts()/len(y_test_probs)).sort_index()

    

    ## 计算PSI

    psi = ______

    

    return psi, expect_prop, actual_prop

## 运行函数得到psi、预期占比和实际占比

psi, expect_prop, actual_prop = psi(_____, _____)

print('psi=',psi)

## 创建(12, 8)的绘图框

fig = plt.figure(figsize=(12, 8))

## 设置中文字体

plt.rcParams['font.sans-serif'] = ['SimHei']

plt.rcParams['axes.unicode_minus'] = False

## 绘制条形图

plt.bar(expect_prop.index + 0.2, expect_prop, width=0.4, label='预期占比')

plt.bar(actual_prop.index - 0.2, actual_prop, width=0.4, label='实际占比')

plt.legend()

## 设置轴标签

plt.xlabel('概率分组', fontsize=12)

plt.ylabel('样本占比', fontsize=12)

## 设置轴刻度

plt.xticks([0, 1, 2, 3, 4, 5, 6, 7, 8, 9],

           ['0-0.1', '0.1-0.2', '0.2-0.3', '0.3-0.4', '0.4-0.5', '0.5-0.6', '0.6-0.7', '0.7-0.8', '0.8-0.9', '0.9-1'])

## 设置图标题

plt.title('预期占比与实际占比对比条形图', fontsize=15)

## 在图上添加文字

for index, item1, item2 in zip(range(10), expect_prop.values, actual_prop.values):

    plt.text(index+0.2, item1 + 0.01, '%.3f' % item1, ha="center", va= "bottom",fontsize=10)

    plt.text(index-0.2, item2 + 0.01, '%.3f' % item2, ha="center", va= "bottom",fontsize=10)

7.7 利用PSI评估随机森林模型稳定性

## 训练集预测概率

y_train_probs = rf_clf.predict_proba(x_train)[:,1]

## 测试集预测概率

y_test_probs = rf_clf.predict_proba(x_test)[:,1]

def psi(y_train_probs, y_test_probs):

    ## 设定每组的分点

    bins = np.arange(0, 1.1, 0.1)

    

    ## 将训练集预测概率分组

    y_train_probs_cut = pd.cut(y_train_probs, bins=bins, labels=False)

    ## 计算预期占比

    expect_prop = (pd.Series(y_train_probs_cut).value_counts()/len(y_train_probs)).sort_index()

    

    ## 将测试集预测概率分组

    y_test_probs_cut = pd.cut(y_test_probs, bins=bins, labels=False)

    ## 计算实际占比

    actual_prop = (pd.Series(y_test_probs_cut).value_counts()/len(y_test_probs)).sort_index()

    

    ## 计算PSI

    psi = ____

    

    return psi, expect_prop, actual_prop

## 运行函数得到psi、预期占比和实际占比

psi, expect_prop, actual_prop = psi(____,____)

print('psi=', round(psi, 3))

## 创建(12, 8)的绘图框

fig = plt.figure(figsize=(12, 8))

## 设置中文字体

plt.rcParams['font.sans-serif'] = ['SimHei']

plt.rcParams['axes.unicode_minus'] = False

## 绘制条形图

plt.bar(expect_prop.index + 0.2, expect_prop, width=0.4, label='预期占比')

plt.bar(actual_prop.index - 0.2, actual_prop, width=0.4, label='实际占比')

plt.legend()

## 设置轴标签

plt.xlabel('概率分组', fontsize=12)

plt.ylabel('样本占比', fontsize=12)

## 设置轴刻度

plt.xticks([0, 1, 2, 3, 4, 5, 6, 7, 8, 9],

           ['0-0.1', '0.1-0.2', '0.2-0.3', '0.3-0.4', '0.4-0.5', '0.5-0.6', '0.6-0.7', '0.7-0.8', '0.8-0.9', '0.9-1'])

## 设置图标题

plt.title('预期占比与实际占比对比条形图', fontsize=15)

## 在图上添加文字

for index, item1, item2 in zip(range(10), expect_prop.values, actual_prop.values):

    plt.text(index+0.2, item1 + 0.01, '%.3f' % item1, ha="center", va= "bottom",fontsize=10)

    plt.text(index-0.2, item2 + 0.01, '%.3f' % item2, ha="center", va= "bottom",fontsize=10)

7.8 计算逻辑回归的指标重要性

from sklearn.linear_model import LogisticRegression

lr_clf = LogisticRegression(penalty='l1',C = 0.6, random_state=55)

lr_clf.fit(x_train, y_train)

# 查看逻辑回归各项指标系数

coefficient = lr_clf.____

# 取出指标系数，并对其求绝对值

importance = ____

# 通过图形的方式直观展现前八名的重要指标

index=data.drop('Default', axis=1).columns

feature_importance = pd.DataFrame(importance.T, index=index).sort_values(by=0, ascending=True)

# # 查看指标重要度

print(feature_importance)

# 水平条形图绘制

feature_importance.tail(8).plot(kind='barh', title='Feature Importances', figsize=(8, 6), legend=False)

plt.show()

7.9 计算随机森林的指标重要性

from sklearn.ensemble import RandomForestClassifier

rf = RandomForestClassifier(n_estimators = 150, criterion = 'entropy', max_depth = 5, min_samples_split = 2, random_state=12)

rf.fit(x_train, y_train)

# 查看随机森林各项指标系数

importance = ____

# 通过图形的方式直观展现前八名的重要指标

index=data.drop('Default', axis=1).columns

feature_importance = pd.DataFrame(importance.T, index=index).sort_values(by=0, ascending=True)

# # 查看指标重要度

print(feature_importance)

# 水平条形图绘制

feature_importance.tail(8).plot(kind='barh', title='Feature Importances', figsize=(8, 6), legend=False)

plt.show()

7.10 指标重要度综合排序