统计学习方法笔记与习题解答(Chapter1)

笔记摘要

• 统计学习或机器学习一般包括监督学习、无监督学习、强化学习，有时还包括半监督学习、主动学习

监督学习

• 监督学习指从标注数据中学习预测模型的机器学习问题，其本质是学习输入到输出的映射的统计规律。
• 输入变量 $X$和输出变量 $Y$有不同的类型，可以是连续或是离散的。根据输入输出变量的不同类型，对预测任务给予不同的名称：输入与输出均为连续变量的预测问题称为回归问题；输出变量为有限个离散变量的预测问题称为分类问题；输入与输出变量均为变量序列的预测问题称为标注问题。

无监督学习

• 无监督学习指从无标注数据中学习预测模型的机器学习问题，其本质是学习数据中的统计规律或内在结构。
• 无监督学习旨在从假设空间中选出在给定评价标准下的最优模型，模型可以实现对数据的聚类、降维或是概率估计。

强化学习

• 强化学习指智能系统在与环境的连续互动中学习最优行为策略的机器学习问题，其本质是学习最优的序贯决策。
• 智能系统的目标不是短期奖励的最大化，而是长期累积奖励的最大化。强化学习过程中，系统不断地试错，以达到学习最优策略地目的。

半监督学习与主动学习

• 半监督学习指利用标注数据和未标注数据学习预测模型地机器学习问题。其旨在利用未标注数据中的信息，辅助标注数据，进行监督学习，以较低的成本达到较好的学习效果。
• 主动学习是指机器不断主动给出实例让教师进行标注，然后利用标注数据学习预测模型的机器学习问题。主动学习的目标是找出对学习最有帮助的实例让教师标注，以较小的标注代价达到较好的学习效果。
• 这两种学习更接近监督学习。

实现统计学习方法的步骤

1. 得到一个有限的训练数据集合
2. 确定包含所有可能的模型的假设空间，即学习模型的集合
3. 确定模型选择的准则，即学习的策略
4. 实现求解最优模型的算法，即学习的算法
5. 通过学习方法选择最优的模型
6. 利用学习的最优模型对新数据进行预测或分析

• 在上述步骤中涵盖了统计学习方法三要素：模型，策略，算法

• 在监督学习过程中，模型就是所要学习的条件概率分布或者决策函数。
  注意书中的这部分描述，整理了一下到表格里：

	假设空间 $\mathcal F$	输入空间 $\mathcal X$	输出空间 $\mathcal Y$	参数空间
决策函数	$\mathcal F =\{f$| $Y=f_{\theta}(x), \theta \in \bf R \it ^n\}$	变量	变量	$\bf R\it ^n$
条件概率分布	$\mathcal F =\{P$| $P_\theta(Y$| $X), \theta \in \bf R \it ^n\}$	随机变量	随机变量	$\bf R\it ^n$

损失函数与风险函数

• 损失函数度量模型一次预测的好坏，风险函数度量平均意义下模型预测的好坏。

• 损失函数(loss function)或代价函数(cost function)定义为给定输入 $X$的预测值 $f(X)$和真实值 $Y$之间的非负实值函数，记作 $L(Y,f(X))$。

• 风险函数(risk function)或期望损失(expected loss)和模型的泛化误差的形式是一样的
  $R_{exp}(f)=E_p[L(Y, f(X))]=\int_{\mathcal X\times\mathcal Y}L(y,f(x))P(x,y)\, {\rm d}x{\rm d}y$
  上式是模型 $f(X)$关于联合分布 $P(X,Y)$的平均意义下的损失(期望损失)，但是因为 $P(X,Y)$是未知的，所以前面的用词是期望，以及平均意义下的。这个表示其实就是损失的均值，反映了对整个数据的预测效果的好坏。

• 经验风险(empirical risk)或经验损失(empirical loss)
  $R_{emp}(f)=\frac{1}{N}\sum^{N}_{i=1}L(y_i,f(x_i))$
  上式是模型 $f$关于训练样本集的平均损失。根据大数定律，当样本容量N趋于无穷大时，经验风险趋于期望风险。

• 结构风险(structural risk)
  $R_{srm}(f)=\frac{1}{N}\sum_{i=1}^{N}L(y_i,f(x_i))+\lambda J(f)$
  $J(f)$为模型复杂度, $\lambda \geqslant 0$是系数，用以权衡经验风险和模型复杂度。

常用损失函数

损失函数数值越小，模型就越好

• 0-1损失
  $L(Y,f(X))=\begin{cases}1, Y \neq f(X) \\0, Y=f(X) \end{cases}$

• 平方损失
  $L(Y,f(X))=(Y-f(X))^2$

• 绝对损失
  $L(Y,f(X))=|Y-f(X)|$

• 对数损失
  $L(Y,P(Y|X))=−logP(Y|X)$

ERM与SRM

经验风险最小化(ERM)与结构风险最小化(SRM)

• 极大似然估计是经验风险最小化的一个例子。当模型是条件概率分布，损失函数是对数损失函数时，经验风险最小化等价于极大似然估计，下面习题1.2中给出了证明。
• 结构风险最小化等价于正则化
• 贝叶斯估计中的最大后验概率估计是结构风险最小化的一个例子。当模型是条件概率分布，损失函数是对数损失函数，模型复杂度由模型的先验概率表示时，结构风险最小化等价于最大后验概率估计。

算法

• 算法是指学习模型的具体计算方法。统计学习基于训练数据集，根据学习策略，从假设空间中选择最优模型，最后需要考虑用什么杨的计算方法来求解最优模型。

模型评估与选择

• 训练误差和测试误差是模型关于数据集的平均损失。

• 注意：统计学习方法具体采用的损失函数未必是评估时使用的损失函数。

• 过拟合是指学习时选择的模型所包含的参数过多，以至出现这一模型对已知数据预测得很好，但对未知数据预测得很差的现象。可以说模型选择旨在避免过拟合并提高模型的预测能力。

正则化与交叉验证

• 模型选择的典型方法是正则化.。正则化项一般是模型复杂度的单调递增函数，模型越复杂，正则化就越大。比如，正则化项可以是模型参数向量的范数。
• $L(w)=\frac{1}{N}\sum_{i=1}^{N}(f(x_i;w)-y_i)^2+\frac{\lambda}{2}\|w\|^2$
• $\|w\|$表示向量 $w$的 $L_2$范数
• 正则化符合奥卡姆剃刀原理：如无必要，勿增实体。在应用于模型选择中时，可以理解为：在所有可能选择的模型中，能够很好地解释已知数据并且十分简单的才是最好的模型，也是应该选择的模型。
• 交叉验证的基本想法时重复地利用数据；把给定地数据进行切分，将切分的数据集组合为训练集和测试集，在此基础上反复地进行训练、测试以及模型选择。
• 主要有简单交叉验证，S折交叉验证，留一交叉验证三种。
• 在算法学习的过程中，测试集可能是固定的，但是验证集和训练集可能是变化的。比如S折交叉验证的情况下，分成S折之后，其中的S-1折作为训练集，1折作为验证集，计算这S个模型每个模型的平均测试误差，最后选择平均测试误差最小的模型。这个过程中用来验证模型效果的那一折数据就是验证集。

生成模型与判别模型

监督学习方法可分为生成方法(generative approach)与判别方法(discriminative approach)

• 生成方法(generative approach)

  • 可以还原出联合概率分布 $P(X,Y)$
  • 收敛速度快, 当样本容量增加时, 学到的模型可以更快收敛到真实模型
  • 当存在隐变量时仍可以用

• 判别方法(discriminative approach)

  • 直接学习条件概率 $P(Y|X)$或者决策函数 $f(X)$
  • 直接面对预测, 往往学习准确率更高
  • 可以对数据进行各种程度的抽象, 定义特征并使用特征, 可以简化学习问题

习题解答

• 1.1 说明伯努利模型的极大似然估计以及贝叶斯估计中的统计学方法三要素

  • 伯努利模型是定义在取值为0与1的随机变量上的概率分布。统计学分为两派：经典统计学派和贝叶斯统计学派。两者的不同主要是，经典统计学派认为模型已定，参数未知，参数是固定的，只是还不知道；贝叶斯统计学派是通过观察到的现象对概率分布中的主观认定不断进行修正。

  • 极大似然估计用的是经典统计学派的策略，贝叶斯估计用的是贝叶斯统计学派的策略；为了得到使经验风险最小的参数值，使用的算法都是对经验风险求导，使导数为0。

  • 定义随机变量 $A$为一次伯努利试验的结果， $A$的取值为 $\{0,1\}$，概率分布为 $P(A)$：
    $P(A=1)=θ，P(A=0)=1-θ$

  • 极大似然估计
    $L(θ)=\prod_{i=1}^nP(A_i)=θ^k(1-θ)^{n-k}$
    $θ=\arg\max_{θ}L(θ)=\frac{k}{n}$
    上述估计通过取对数求导得到， $A_i$为第 $i$次随机试验

  • 贝叶斯估计
    $P(θ|A_1,A_2,…，A_n)=\frac{P(A_1,A_2,…，A_n|θ)P(θ)}{P(A_1,A_2,…，A_n)}$

    根据观察到的结果修正 $θ$，也就是假设 $θ$是随机变量， $θ$服从β分布，有很多个可能的取值，我们要取的值是在已知观察结果的条件下使 $θ$出现概率最大的值。上式分母是不变的，求分子最大就可以。

    $\begin{aligned} \theta &=arg\max \limits_\theta {P(A_1,A_2,...,A_n|\theta)P(\theta)} \\ &= arg\max \limits_\theta {\prod_{i=1}^{n}P(A_i|\theta)P(\theta)} \\ &=arg \max \limits_\theta {\theta^k(1-\theta)^{n-k}\theta^{a-1}(1-\theta)^{b-1}} \\ &=\frac{k+(a-1)}{n+(a-1)+(b-1)} \end{aligned}$

    β分布是一个作为伯努利分布和二项式分布的共轭先验分布的密度函数，是指一组定义在 $(0,1)$区间的连续概率分布，有两个参数α，β>0。选定参数后就可以确定 $\theta$。

    • 统计学习方法的三要素为模型，策略，算法。

• 1.2 通过经验风险最小化推导极大似然估计。证明模型是条件概率分布，当损失函数是对数损失函数时，经验风险最小化等价于极大似然估计。

  • 模型是条件概率分布： $P_θ(Y|X)$，
    损失函数是对数损失函数： $L(Y,P_θ(Y|X))=−logP_θ(Y|X)$
    经验风险为： $\begin{aligned} R_{emp}(f)&=\frac{1}{N}\sum_{i=1}^{N}L(y_i,f(x_i)) \\ &=\frac{1}{N}\sum_{i=1}^{N}-logP(y_i|x_i) \\ &=-\frac{1}{N}\sum_{i=1}^{N}logP(y_i|x_i) \end{aligned}$

  • 极大似然估计的似然函数为：
    $L(\theta)=\prod_DP_{\theta}(Y|X)$

  • 取对数
    $log(L(\theta))=\sum_DlogP_{\theta}(Y|X)$
    $arg\max_\theta\sum_DlogP_{\theta}(Y|X)=arg\min_{\theta}\sum_D-logP_{\theta}(Y|X)$

  • 因此，当损失函数是对数损失函数时，经验风险最小化等价于极大似然估计。