机器学习模型评估指标准确率、精确率、召回率、F1-Score、AUC、MAE、MSE、RMSE、R-Squared等

#来查看一下sklearn中所有的模型评估指标
import sklearn.metrics
sorted(sklearn.metrics.SCORERS.keys())
  • 回归
    误差函数:平均绝对误差/相对误差(MAE)、平均绝对百分比误差(MAPE)、均方误差(MSE)、均方根(RMSE)、标准差(SD)、拟合优度(R2/R- Square)

  • 分类
    误差函数:0-1、对数、指数、合页
    其他度量:准确率(accuracy)、查准率/精准率(precision)、查全率/召回率(recall)、F1-score、PR曲线、ROC曲线、AUC指标

  • 聚类(本文不做讨论)
    兰德指数、互信息、轮廓指数

回归指标的定义和说明

这里的回归指回归问题和模型,如线性回归Linear Regression,决策树Decision Tree Regression,随机森林Random Forest Regression,深度学习RNN等等。

平均绝对误差(MAE)

mean absolute error

使用的是数据的偏差的绝对值,计算公式如下:

M A E = 1 n ∑ i = 1 n ∣ ( y i − y ^ i ) ∣ MAE=\frac{1}{n}\displaystyle \sum_{i=1}^n|(y_i-\hat y_i)| MAE=n1i=1n(yiy^i)

其中 y i y_i yi为真实值, y ^ i \hat{y}_i y^i为回归预测值,n为回归的数据个数。值越小,性能performance越好

这里注意,绝对值的计算因为不是处处可导,不方便用来当求极值 m i n min min的目标。

平均绝对百分比误差(MAPE)

mean absolute percentage error

将MAE的绝对值转化为相对值,计算公式如下:

M A P E = 1 n ∑ i = 1 n ∣ y i − y ^ i y i ∣ MAPE=\frac{1}{n}\displaystyle \sum_{i=1}^n|\frac{y_i-\hat y_i}{y_i}| MAPE=n1i=1nyiyiy^i

其中 y i y_i yi为真实值, y ^ i \hat{y}_i y^i为回归预测值,n为回归的数据个数。注意由于这里用了 y i y_i yi作为分母,所以当测量真实值有数据为0时,即存在分母为0的情况,该指标公式就不可用了。值越小,性能performance越好

均方误差(MSE)

mean squared error

使用的是数据的偏差的平方和,计算公式如下:

M S E = 1 n ∑ i = 1 n ( y i − y ^ i ) 2 MSE=\frac{1}{n}\displaystyle \sum_{i=1}^n (y_i-\hat y_i)^2 MSE=n1i=1n(yiy^i)2

其中 y i y_i yi为真实值, y ^ i \hat{y}_i y^i为回归预测值,n为回归的数据个数。注意该公式也用于回归的损失函数,并且可导(MAE绝对值不是处处可导的),即最小化均方误差。值越小,性能performance越好

均方根误差(RMSE)

root mean squared error

使用的是数据的偏差的平方和再求根号,计算公式如下:

R M S E = 1 n ∑ i = 1 n ( y i − y ^ i ) 2 RMSE=\sqrt {\frac{1}{n}\displaystyle \sum_{i=1}^n (y_i-\hat y_i)^2} RMSE=n1i=1n(yiy^i)2

其中 y i y_i yi为真实值, y ^ i \hat{y}_i y^i为回归预测值,n为回归的数据个数。其实是均方误差MSE开根号得到的,实质跟均方误差MSE是一样的。主要用于降低均方误差的数量级,防止均方误差MSE看起来很大。RMSE和MAE的数量级基本相同了,但RMSE会比MAE大一些,RMSE惩罚了预测误差大的数据点。关于用RMSE还是MAE,有比较多的讨论(Willmott et al., 2005, 2009)、(Chai, 2014),跟使用场景的数据分布等相关。当然求得的回归曲线RMSE值越小,反映求得曲线的最大误差也是较小的。所以RMSE值越小,性能performance越好

R方R Squared

因为MAE、MSE、RMSE的衡量不存在一个区间范围,所以定义了R方这个指标,计算公式如下:

R 2 = 1 − S S r e s i d u a l S S t o t a l = 1 − ∑ i = 1 n ( y i − y ^ i ) 2 ∑ i = 1 n ( y i − y ‾ i ) 2 R^2=1-\frac{SS_{residual}}{SS_{total}}=1-\frac{\sum_{i=1}^n(y_i-\hat y_i)^2}{\sum_{i=1}^n(y_i-\overline y_i)^2} R2=1SStotalSSresidual=1i=1n(yiyi)2i=1n(yiy^i)2

y ‾ = 1 n ∑ i = 1 n y i \overline y=\frac{1}{n}\displaystyle \sum_{i=1}^n y_i y=n1i=1nyi

其中 y i y_i yi为真实值, y ^ i \hat{y}_i y^i为回归预测值, y ‾ \overline y y 为真实值的平均值,n为回归的数据个数。 S S r e s i d u a l SS_{residual} SSresidual表示残差的平方和(residual sum of squares,即模型的预测误差的平方和), S S t o t a l SS_{total} SStotal表示预测值都为 y ‾ \overline y y 的残差的平方和(total sum of squares)。

取值范围 ( − ∞ , 1 ] (-\infty,1] (,1]

R 2 = 1 R^2=1 R2=1表示预测模型在每一个测量数据 y i y_i yi上都预测完全正确,

R 2 = 0 R^2=0 R2=0表示等价于平均值预测法,

R 2 < 0 R^2<0 R2<0表示预测模型比平均值预测法还差。说明我们学习到的模型还不如基准模型。此时,很有可能我们的数据不存在任何线性关系。

值越大,性能performance越好

分类指标的定义和说明

分类误差函数

在这里插入图片描述

分类其他度量

对数损失不适用于样本不均衡时的分类评估指标
ROC-AUC可作为样本正负不均衡时的分类评估指标
如果我们想让少数情况被正确预测,就用ROC-AUC作为评估指标
F1- Score和PR曲线在正样本极少时适用于作为分类评估指标
F1- Score和PR曲线在FP比FN更重要时,适用于作为分类评估指标

混淆矩阵、准确率、精确率、召回率、F1-score

1.混淆矩阵
    真正例(TP)
    伪反例(FN)
    伪正例(FP)
    真反例(TN)
2. 精确率(Precision)与召回率(Recall)
    准确率:(对不对)
        (TP+TN)/(TP+TN+FN+FP)
    精确率 -- 查的准不准
        TP/(TP+FP)
    召回率 -- 查的全不全
        TP/(TP+FN)
    F1-score
        反映模型的稳健性
3.api
    sklearn.metrics.classification_report(y_true, y_pred)

在这里插入图片描述
在这里插入图片描述
准确率(accuracy): T P + T N T P + T N + F P + F N \frac{TP+TN}{TP+TN+FP+FN} TP+TN+FP+FNTP+TN

错误率 (error rate): F P + F N T P + T N + F P + F N \frac{FP+FN}{TP+TN+FP+FN} TP+TN+FP+FNFP+FN

精确率(precision,查准率):预测结果为正例样本中真实为正例的比例(查的准不准) p r e c i s i o n = T P T P + F P precision=\frac{TP}{TP+FP} precision=TP+FPTP

召回率(recall,查全率):真实为正例的样本中预测结果为正例的比例(查的全不全) r e c a l l = T P T P + F N recall=\frac{TP}{TP+FN} recall=TP+FNTP

F1-score:反映了模型的稳健型
在这里插入图片描述
错误率和准确率是强相关的,大多情况下可单独关注准确率一个指标。它是我们最简单直观的度量方式,比如人脸识别100张图片,识别出99张,可以说准确率为99%。
  但是,它有先天的劣势,对正负样本不平衡的问题,无法给出客观的评价。比如正确样本占比90%,我的预测模型可以直接预测所有样本为正,准确率即为90%,但显然是错误的。

1)精准率和召回率基础理论

  • 调整阈值的大小,可以调节精准率和召回率的比重
  1. 阈值:threshold,分类边界值,score > threshold 时分类为 1,score < threshold 时分类为 0;
  2. 阈值增大,精准率提高,召回率降低;阈值减小,精准率降低,召回率提高;
  • 精准率和召回率是相互牵制,互相矛盾的两个变量,不能同时增高;

  • 逻辑回归的决策边界不一定非是 θ T ⋅ x b = 0 \theta^T \cdot x_b=0 θTxb=0,也可以是任意的值,可根据业务而定: θ T ⋅ x b = t h r e s h o l d \theta^T \cdot x_b=threshold θTxb=threshold- ,大于 threshold 时分类为 1,小于 threshold 时分类为 0;

  • 推广到其它算法,先计算出一个分数值 score ,再与 threshold 比较做分类判定;

2)举例说明精准率和召回率相互制约的关系(一)

  • 计算结果 score > 0 时,分类结果为 ★;score < 0 时,分类结果为 ●;

  • ★ 类型为所关注的事件;

  • 情景1:threshold = 0
    在这里插入图片描述

  1. 精准率:4 / 5 = 0.80;
  2. 召回率:4 / 6 = 0.67;
  • 情景2:threshold > 0;
    在这里插入图片描述
  1. 精准率:2 / 2 = 1.00;
  2. 召回率:2 / 6 = 0.33;
  • 情景3:threshold < 0;
    在这里插入图片描述
  1. 精准率:6 / 8 = 0.75;
  2. 召回率:6 / 6 = 1.00;

3)举例说明精准率和召回率相互制约的关系(二)

  • LogisticRegression() 类中的 predict() 方法中,默认阈值 threshold 为 0,再根据 decision_function() 方法计算的待预测样本的 score 值进行对比分类:score < 0 分类结果为 0,score > 0 分类结果为 1;

  • .decision_function(X_test):计算所有待预测样本的 score 值,以向量的数量类型返回结果;
    此处的 score 值不是概率值,是另一种判断分类的方式中样本的得分,根据样本的得分对样本进行分类;
    例子

import numpy as np
from sklearn import datasets
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression

digits = datasets.load_digits()
X = digits.data
y = digits.target.copy()
y[digits.target==9] = 1
y[digits.target!=9] = 0

X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=666)

log_reg = LogisticRegression()
log_reg.fit(X_train, y_train)

阈值 threshold = 0

y_predict_1 = log_reg.predict(X_test)

from sklearn.metrics import confusion_matrix
confusion_matrix(y_test, y_predict_1)
# 混淆矩阵:array([[403, 2],
#                 [9, 36]], dtype=int64)

from sklearn.metrics import precision_score
print('precision_score',precision_score(y_test, y_predict_1))
# 精准率:0.9473684210526315

from sklearn.metrics import recall_score
print('recall_score',recall_score(y_test, y_predict_1))
# 召回率:0.8

阈值 threshold = 5

decision_score = log_reg.decision_function(X_test)

# 更改 decision_score ,经过向量变化得到新的预测结果 y_predict_2;
# decision_score > 5,增大阈值为 5;(也就是提高判断标准)
y_predict_2 = np.array(decision_score >= 5, dtype='int')

confusion_matrix(y_test, y_predict_2)
# 混淆矩阵:array([[404,   1],
#                 [ 21,  24]], dtype=int64)

print('precision_score',precision_score(y_test, y_predict_2))
# 精准率:0.96

print('recall_score',recall_score(y_test, y_predict_2))
# 召回率:0.5333333333333333

#更改阈值的思路基于 decision_function() 方法,改变 score 值,重新设定阈值,不再经过 predict() 方法,而是经过向量变化得到新的分类结果;
阈值 threshold = -5

decision_score = log_reg.decision_function(X_test)
y_predict_3 = np.array(decision_score >= -5, dtype='int')

confusion_matrix(y_test, y_predict_3)
# 混淆矩阵:array([[390,  15],
#                 [5,  40]], dtype=int64)

print('precision_score',precision_score(y_test, y_predict_3))
# 精准率:0.7272727272727273

print('recall_score',recall_score(y_test, y_predict_3))
# 召回率:0.8888888888888888
  • 分析:
  1. 精准率和召回率相互牵制,相互平衡的,一个升高,另一个就会降低;
  2. 阈值越大,精准率越高,召回率越低;阈值越小,精准率越低,召回率越高;
  3. 更改阈值:1)通过 LogisticRegression() 模块下的 decision_function() 方法得到预测得分;2)不使用 predict() 方法,而是重新设定阈值,通过向量转化,直接根据预测得分进行样本分类;

分类评估报告api

sklearn.metrics.classification_report(y_true, y_pred, *, labels=None, target_names=None, sample_weight=None, digits=2, output_dict=False, zero_division='warn')
  • y_true:真实目标值
  • y_pred:估计器预测目标值
  • labels:指定类别对应的数字
  • target_names:目标类别名称
  • return:每个类别精确率与召回率
from sklearn.metrics import classification_report
y_true = [0, 1, 2, 2, 2]
y_pred = [0, 0, 2, 2, 1]
target_names = ['class 0', 'class 1', 'class 2']
print(classification_report(y_true, y_pred, target_names=target_names))

y_pred = [1, 1, 0]
y_true = [1, 1, 1]
print(classification_report(y_true, y_pred, labels=[1, 2, 3]))

精准率 - 召回率曲线(P - R 曲线)

  • 对应分类算法,都可以调用其 decision_function() 方法,得到算法对每一个样本的决策的分数值;

  • LogisticRegression() 算法中,默认的决策边界阈值为 0,样本的分数值大于 0,该样本分类为 1;样本的分数值小于 0,该样本分类为 0。

  • 思路:随着阈值 threshold 的变化,精准率和召回率跟着相应变化;

  1. 设置不同的 threshold 值:
decision_scores = log_reg.decision_function(X_test)
thresholds = np.arange(np.min(decision_scores), np.max(decision_scores), 0.1)

#0.1 是区间取值的步长;
1)编码实现 threshold - Precision、Recall 曲线和 P - R曲线

import numpy as np
import matplotlib.pyplot as plt
from sklearn import datasets
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import precision_score
from sklearn.metrics import recall_score

digits = datasets.load_digits()
X = digits.data
y = digits.target.copy()
y[digits.target==9] = 1
y[digits.target!=9] = 0

X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=666)

log_reg = LogisticRegression()
log_reg.fit(X_train, y_train)
decision_scores = log_reg.decision_function(X_test)

precisions = []
recalls = []
thresholds = np.arange(np.min(decision_scores), np.max(decision_scores), 0.1)

for threshold in thresholds:
    y_predict = np.array(decision_scores >= threshold, dtype='int')
    precisions.append(precision_score(y_test, y_predict))
    recalls.append(recall_score(y_test, y_predict))

threshold - Precision、Recall 曲线

plt.plot(thresholds, precisions)
plt.plot(thresholds, recalls)
plt.show()

在这里插入图片描述
P - R 曲线

plt.plot(precisions, recalls)
plt.show()

在这里插入图片描述
 2)scikit-learn 中 precision_recall_curve() 方法

根据 y_test、y_predicts 直接求解 precisions、recalls、thresholds;

from sklearn.metrics import precision_recall_curve

digits = datasets.load_digits()
X = digits.data
y = digits.target.copy()
y[digits.target==9] = 1
y[digits.target!=9] = 0

X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=666)

log_reg = LogisticRegression(max_iter=10000)#更改参数的迭代次数
log_reg.fit(X_train, y_train)
decision_scores = log_reg.decision_function(X_test)

precisions, recalls, thresholds = precision_recall_curve(y_test, decision_scores)

precisions.shape
# (140,)

recalls.shape
# (140,)

thresholds.shape
# (139,)
  1. 现象:thresholds 中的元素个数,比 precisions 和recalls 中的元素个数少 1 个;
  2. 原因:当 precision = 1、recall = 0 时,不存在 threshold;

threshold - Precision、Recall 曲线

plt.plot(thresholds, precisions[:-1])
plt.plot(thresholds, recalls[:-1])
plt.show()

在这里插入图片描述
P - R 曲线

plt.plot(precisions, recalls)
plt.show()

在这里插入图片描述
途中曲线开始急剧下降的点,可能就是精准率和召回率平衡位置的点;

3)分析

  • 不同的模型对应的不同的 Precision - Recall 曲线:
    在这里插入图片描述
  1. 外层曲线对应的模型更优;或者称与坐标轴一起包围的面积越大者越优。
  2. P - R 曲线也可以作为选择算法、模型、超参数的指标;但一般不适用此曲线,而是使用 ROC 曲线;

ROC曲线和AUC指标

    roc曲线
        通过TPR和FPR来进行图形绘制,然后绘制之后,形成一个指标auc
    auc
        越接近1,效果越好
        越接近0,效果越差
        越接近0.5,效果就是胡说
    注意:
        这个指标主要用于评价不平衡的二分类问题
   api
    sklearn.metrics.roc_auc_score(y_true, y_score)
        y_true -- 要把正例转换为1,反例转换为0
        
ROC曲线的绘制
    1.构建模型,把模型的概率值从大到小进行排序
    2.从概率最大的点开始取值,一直进行TPR和FPR的计算,然后构建整体模型,得到结果
    3.其实就是在求解积分(面积)

TPR与FPR

  • TPR = TP / (TP + FN)

    • 所有真实类别为1的样本中,预测类别为1的比例
  • FPR = FP / (FP + TN)

    • 所有真实类别为0的样本中,预测类别为1的比例
  • ROC曲线的横轴就是FPR,纵轴就是TPR,而ROC曲线向下覆盖的面积即为AUC值。当FPR、TPR相等时,表示的意义则是:对于不论真实类别是1还是0的样本,分类器预测为1的概率是相等的,此时AUC为0.5
    在这里插入图片描述
      比如,90%是正样本,10%是负样本,用准确率是有水分的,但是用TPR和FPR不一样。
      TPR只关注90%正样本中有多少是被真正覆盖的,而与那10%毫无关系,同理,FPR只关注10%负样本中有多少是被错误覆盖的,也与那90%毫无关系,所以可以看出:如果我们从实际表现的各个结果角度出发,就可以避免样本不平衡的问题了,这也是为什么选用TPR和FPR作为ROC/AUC的指标的原因。

如何评价ROC好坏?
  FPR表示模型虚报的响应程度,而TPR表示模型预测响应的覆盖程度。TPR越高,同时FPR越低(即ROC曲线越陡),那么模型的性能就越好。
所以如果A的ROC包裹B的ROC,则A学习器更好。
如果A,B有交叉,则不能断言,这时候引入了AUC值。

ROC曲线无视样本不均衡
  当样本不均衡时,准确率是不准确的。PR曲线会明显改变形状,而ROC则不受影响。因为ROC相当于固定一个轴,即实际正类或者实际负类的评价。

AUC指标

  • AUC的概率意义是随机取一对正负样本,正样本得分大于负样本的概率
  • AUC的最小值为0.5,最大值为1,取值越高越好
  • AUC=1,完美分类器,采用这个预测模型时,不管设定什么阈值都能得出完美预测。绝大多数预测的场合,不存在完美分类器。
  • 0.5<AUC<1,优于随机猜测。这个分类器(模型)妥善设定阈值的话,能有预测价值。

最终AUC的范围在[0.5, 1]之间,并且越接近1越好

AUC计算API

sklearn.metrics.roc_auc_score(y_true, y_score, *, average='macro', sample_weight=None, max_fpr=None, multi_class='raise', labels=None)

from sklearn.metrics import roc_auc_score

sklearn.metrics.roc_auc_score(y_true, y_score)

  • 计算ROC曲线面积,即AUC值
  • y_true:每个样本的真实类别,必须为0(反例),1(正例)标记
  • y_score:预测得分,可以是正类的估计概率、置信值或者分类器方法的返回值
  • pos_label:int or str, 标签被认为是积极的,其他的被认为是消极的。
  • sample_weight: 顾名思义,样本的权重,可选择的

返回值:一共三个,分别是fpr,tpr,thresholds
    fpr:数组,随阈值上涨的假阳性率
    tpr:数组,随阈值上涨的真正例率
    thresholds:数组,对预测值排序后的score列表,作为阈值,排序从大到小

import numpy as np
from sklearn import metrics
y = np.array([1, 1, 2, 2])
scores = np.array([0.1, 0.4, 0.35, 0.8])
fpr, tpr, thresholds = metrics.roc_curve(y, scores, pos_label=2)
fpr
# array([0. , 0. , 0.5, 0.5, 1. ])

tpr
# array([0. , 0.5, 0.5, 1. , 1. ])

thresholds
# array([1.8 , 0.8 , 0.4 , 0.35, 0.1 ])

上述是基础实现,可以按点画图
thresholds为阈值,以FP为X轴,TP为Y轴,画ROC曲线如下图所示:
在这里插入图片描述
由上图围成的面积等于:0.75

调用roc_auc_score

import numpy as np
from sklearn.metrics import roc_auc_score
y_true = np.array([0, 0, 1, 1])
y_scores = np.array([0.1, 0.4, 0.35, 0.8])
roc_auc_score(y_true, y_scores)
#0.75

ROC曲线的绘制

关于ROC曲线的绘制过程,通过以下举例进行说明

假设有6次展示记录,有两次被点击了,得到一个展示序列(1:1, 2:0, 3:1, 4:0, 5:0, 6:0),前面的表示序号,后面的表示点击(1)或没有点击(0)。

然后在这6次展示的时候都通过model算出了点击的概率序列。

下面看三种情况。

1 曲线绘制

1.1 如果概率的序列是(1:0.9, 2:0.7, 3:0.8, 4:0.6, 5:0.5, 6:0.4)。

与原来的序列一起,得到序列(从概率从高到低排)

1 1 0 0 0 0
0.9 0.8 0.7 0.6 0.5 0.4

绘制的步骤是:

1)把概率序列从高到低排序,得到顺序(1:0.9,3:0.8,2:0.7,4:0.6,5:0.5,6:0.4);

2)从概率最大开始取一个点作为正类,取到点1,计算得到TPR=0.5,FPR=0.0;

3)从概率最大开始,再取一个点作为正类,取到点3,计算得到TPR=1.0,FPR=0.0;

4)再从最大开始取一个点作为正类,取到点2,计算得到TPR=1.0,FPR=0.25;

5)以此类推,得到6对TPR和FPR。

然后把这6对数据组成6个点(0,0.5),(0,1.0),(0.25,1),(0.5,1),(0.75,1),(1.0,1.0)。

这6个点在二维坐标系中能绘出来。
在这里插入图片描述
看看图中,那个就是ROC曲线。

1.2 如果概率的序列是(1:0.9,2:0.8,3:0.7,4:0.6,5:0.5,6:0.4)

与原来的序列一起,得到序列(从概率从高到低排)

1 0 1 0 0 0
0.9 0.8 0.7 0.6 0.5 0.4

绘制的步骤是:

6)把概率序列从高到低排序,得到顺序(1:0.9, 2:0.8, 3:0.7, 4:0.6, 5:0.5, 6:0.4);

7)从概率最大开始取一个点作为正类,取到点1,计算得到TPR=0.5,FPR=0.0;

8)从概率最大开始,再取一个点作为正类,取到点2,计算得到TPR=0.5,FPR=0.25;

9)再从最大开始取一个点作为正类,取到点3,计算得到TPR=1.0,FPR=0.25;

10)以此类推,得到6对TPR和FPR。

然后把这6对数据组成6个点(0,0.5),(0.25,0.5),(0.25,1),(0.5,1),(0.75,1),(1.0,1.0)。

这6个点在二维坐标系中能绘出来。
在这里插入图片描述
看看图中,那个就是ROC曲线。

1.3 如果概率的序列是(1:0.4,2:0.6,3:0.5,4:0.7,5:0.8,6:0.9)

与原来的序列一起,得到序列(从概率从高到低排)

0 0 0 0 1 1
0.9 0.8 0.7 0.6 0.5 0.4

绘制的步骤是:

11)把概率序列从高到低排序,得到顺序(6:0.9,5:0.8,4:0.7,2:0.6,3:0.5,1:0.4);

12)从概率最大开始取一个点作为正类,取到点6,计算得到TPR=0.0,FPR=0.25;

13)从概率最大开始,再取一个点作为正类,取到点5,计算得到TPR=0.0,FPR=0.5;

14)再从最大开始取一个点作为正类,取到点4,计算得到TPR=0.0,FPR=0.75;

15)以此类推,得到6对TPR和FPR。

然后把这6对数据组成6个点(0.25,0.0),(0.5,0.0),(0.75,0.0),(1.0,0.0),(1.0,0.5),(1.0,1.0)。

这6个点在二维坐标系中能绘出来。
在这里插入图片描述
看看图中,那个就是ROC曲线。

2 意义解释

如上图的例子,总共6个点,2个正样本,4个负样本,取一个正样本和一个负样本的情况总共有8种。

上面的第一种情况,从上往下取,无论怎么取,正样本的概率总在负样本之上,所以分对的概率为1,AUC=1。再看那个ROC曲线,它的积分是什么?也是1,ROC曲线的积分与AUC相等。

上面第二种情况,如果取到了样本2和3,那就分错了,其他情况都分对了;所以分对的概率是0.875,AUC=0.875。再看那个ROC曲线,它的积分也是0.875,ROC曲线的积分与AUC相等。

上面的第三种情况,无论怎么取,都是分错的,所以分对的概率是0,AUC=0.0。再看ROC曲线,它的积分也是0.0,ROC曲线的积分与AUC相等。

很牛吧,其实AUC的意思是——Area Under roc Curve,就是ROC曲线的积分,也是ROC曲线下面的面积。

绘制ROC曲线的意义很明显,不断地把可能分错的情况扣除掉,从概率最高往下取的点,每有一个是负样本,就会导致分错排在它下面的所有正样本,所以要把它下面的正样本数扣除掉(1-TPR,剩下的正样本的比例)。总的ROC曲线绘制出来了,AUC就定了,分对的概率也能求出来了。

ROC 与 P - R 曲线的区别

P - R 曲线:应用于判定由极度有偏数据所训练的模型的优劣;
ROC 曲线:应用于比较两个模型的优劣;

ROC兼顾了正类和负类的分类能力,同时对类别不均衡问题处理很好。
P-R仅仅关注正类,如果在更关注正类的评价学习器时,选择P-R曲线。除此,大部分时候用ROC即可。

猜你喜欢

转载自blog.csdn.net/qq_45694768/article/details/121382124