第三章 K近邻法

$k$近邻法$(k-NN)$是一种基本分类与回归方法。这里只讨论分类问题中的$k$近邻法。
输入：实例的特征向量，对应于特征空间的点；
输出：实例的类别，可以取多类
直观解释：给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的$k$个实例的多数属于某个类，就把该输入实例分为这个类。
算法 3.1（k近邻法）
输入：训练数据集

$$T = \{(x_{1},y_{1}),(x_{2},y_{2}),...,(x_{N},y_{N})\},$$ 其中， $x_{i}\in \chi=R^n$为实例的特征向量, $y_{i}\in Y=\{c_1,c_2,...,c_K\}$为实例的类别， $i=1,2,...,N$；实例特征向量 $x$；
输出：实例 $x$所属的类 $y$.
(1) 根据给定的距离度量，在训练集 $T$中找出与 $x$最邻近的 $k$个点，涵盖这个点的 $x$的邻域记作 $N_k(x)$;
(2) 在 $N_k(x)$中根据分类决策规则（如多数表决）决定 $x$的类别 $y$： $$y=arg\max_{c_j}\sum\limits_{x_i\in N_{k}(x)}I(y_{i}=c_j),i=1,2,...,N;j=1,2,...,K$$ 上式中 $I$为只是函数，即当 $y_i=c_j$时 $I$为1，否则 $I$为0.
$k$近邻法的特殊情况是 $k=1$的情况，称为最近邻算法。对于输入的实例点（特征向量） $x$，最近邻法将训练数据集中与 $x$最邻近点的类作为 $x$的类。

3.2 $k$近邻模型

模型三个基本要素——距离度量、$k$值的选择和分类规则决定。

3.2.1 模型

特征空间中，对每个训练实例点$x_i$，距离该点比其他店更近的所有点组成一个区域，叫作单元（cell）。每个训练实例点拥有一个单元，所有训练实例点的单元构成特征空间的一个划分。最近邻法将实例$x_i$的类$y_i$作为其单元中所有点的类标记（class label）.这样，每个单元的实例点的类别是确定的。

3.2.2 距离度量

特征空间中两个实例点的距离是两个实例点相似程度的反映。距离可以是：欧式距离，$L_p$距离或Minkowski距离。
设特征空间$\chi$是$n$维实数向量空间$R^n$，$x_i,x_j\in \chi$,$x_i=(x_{i}^{(1)},x_{i}^{(2)},...,x_{i}^{(n)})^T$,$x_j=(x_{j}^{(1)},x_{j}^{(2)},...,x_{j}^{(n)})^T$,$x_i,x_j$的$L_p$距离定义为

$$L_p(x_i,x_j)=\left(\sum\limits_{l=1}^n|x_i^{(l)}-x_j^{(l)}|^p\right)^{\frac{1}{p}}$$ 这里 $p\ge 0$.
当 $p=2$时，称为欧氏距离，即 $$L_2(x_i,x_j)=\left(\sum\limits_{l=1}^n|x_i^{(l)}-x_j^{(l)}|^2\right)^{\frac{1}{2}}$$
当 $p=1$时，称为曼哈顿距离，即 $$L_1(x_i,x_j)=\sum\limits_{l=1}^n|x_i^{(l)}-x_j^{(l)}|$$
当 $p=\propto$时，它是各个坐标距离的最大值，即 $$L_\propto(x_i,x_j)=\max\limits_{l}|x_i^{(l)}-x_j^{(l)}|$$

3.2.3 $k$值的选择

$k$值的选择会对$k$近邻法的结果产生重大影响
当$k$值较小时，
优点：“学习”的近似误差减少，与输入实例较近的（相似的）训练实例会对预测结果起作用。
缺点：“学习”的估计误差会增大，预测结果会对近邻的实例点非常敏感。如果邻近的实例点恰巧是噪声，预测就会出错，$k$值减少就意味着整体模型变复杂，容易发生过拟合。
当$k$值较大时，
优点：减少学习的估计误差
缺点：学习的近似误差增大。$k$值增大意味着整体的模型变得简单。
如果$k=N$,无论输入实例是什么，都将简单地预测它属于在训练实例中最多的类。这时，模型过于简单，完全忽略训练实例中的大量有用信息，是不可取的。
在应用中，$k$值一般取一个比较小的数值，通常采用交叉验证法来选取最优的$k$值。

3.2.4 分类决策规则

$k$近邻法中的分类决策规则往往是多数表决，即由输入实例的$k$个邻近的训练实例中的多数类决定输入实例的类。
多数表决规则（majority voting rule）有如下解释：如果分类的损失函数为0-1损失函数，分类函数为

$$f:R^n\to{c_1,c_2,...,c_K}$$ 那么误分类的概率是 $$P(Y\ne f(X))=1-P(Y=f(x))$$
对给定的实例 $x\in \chi$，其中最近邻的 $k$个训练实例点构成集合 $N_k(x)$,如果涵盖N_k(x)的区域的类别是 $c_j$,那么误分率是
$$\frac{1}{k}\sum\limits_{x_i\in N_k(x)}I(y_i \ne c_j)=1-\frac{1}{k}\sum\limits_{x_i\in N_k(x)}I(y_i = c_j)$$
要使误分类率最小即经验风险最小，就要使 $\sum\limits_{x_i\in N_k(x)}I(y_i = c_j)$最大，所以多数表决规则等价于经验风险最小化。

3.3 $k$近邻法的实现：$kd$树

$k$近邻法最简单的实现方法是线性扫描（linear scan），即计算输入实例与每一个训练实例的距离。当训练集很大是，计算非常耗时，方法不可取。可考虑使用特殊的结构存储训练数据，以减少计算距离的次数。其中包括$kd$树方法。

3.3.1 构造$kd$树

$kd$树是一种对$k$维空间中的实例点进行存储以便对其进行快速检索的树形数据结构。$kd$树是二叉树，表示对$k$维空间的一个划分。构造$kd$树相当于不断地用垂直于坐标轴的超平面将$k$维空间切分，构成一系列的$k$维超矩形区域，$kd$树的每个节点对应于一个$k$维超矩形区域。
构造$kd$树的方法如下：构造根结点，使根结点对应于$k$维空间中包含所有实例点的超矩形区域；通过下面的递归方法，不断地对$k$维空间进行切分，生成子结点。在超矩形区域（结点）上选择一个坐标轴和在此坐标轴上的一个切分点，确定一个超平面，这个超平面通过选定的切分点并垂直于选定的坐标轴，将当前超矩形区域切分为左右两个子区域（子结点）；这时，实例被分到两个子区域。这个过程直到子区域内没有实例时终止（终止时的结点为叶节点）。在此过程中，将实例保存在相应的结点上。
通常，依次选择坐标轴对空间切分，选择训练实例点在选定坐标轴上的中位数为切分点，这样得到的$kd$树是平衡的，注意，平衡的$kd$树搜索时的效率未必是最优的。
下面给出构造$kd$树的算法。
算法3.2 （构造平衡$kd$ 树）
输入：$k$维空间数据集$T={x_1,x_2,...,x_N}$,其中$x_i=(x_i^{(1)},x_i^{(2)},...,x_i^{(k)})^T,I=1,2,...,N；$
输出:$kd$树
（1）开始：构造根结点，根结点对应于包含$T$的$k$维空间的超矩形区域。
选择$x^{(1)}$为坐标轴，以$T$中所有实例的$x^{(1)}$坐标的中位数为切分点，将根结点对应的超矩形区域分为两个子区域，切分由通过切分点并与坐标轴$x^{(1)}$垂直的超平面实现。
由根结点生成深度为1的左右子结点；左子结点对应坐标$x^{(1)}$小于切分点的子区域，右子结点对应于坐标$x^{(1)}$大于切分点的子区域。
将落在切分超平面上的实例点保存在根结点。
（2）重复：对深度$j$的结点，选择$x^{(l)}$为切分的坐标轴，$l=j(mod k)+1$，以该结点的区域中所有实例的$x^{(l)}$坐标的中位数为切分点，将该结点对应的超矩形区域切分为两个子区域。切分由通过切分点并与坐标轴$x^{(l)}$垂直的超平面实现。
由该结点生成深度为$j+1$的左、右子结点：左子结点对应坐标$x^{(l)}$小于切分点的子区域，右子结点对应坐标$x^{(l)}$大于切分点的子区域。
将落在切分超平面上的实例点保存在该结点。
（3）直到两个子区域没有实例存在时停止。从而形成$kd$树的区域划分。

扫描二维码关注公众号，回复： 1738489 查看本文章

3.3.2 搜索$kd$树

利用$kd$树进行$k$近邻搜索。下面以最近邻为例加以叙述。
给定一个目标点，搜索其最近邻。首先找到包含目标点的叶结点；然后从该结点出发，依次退回到父节点；不断查找与目标点最近邻的结点，当确定不可能存在更近的结点时，终止。这样搜索就被限制在空间的局部区域上，效率大为提高。
包含目标点的叶结点对应包含目标点的最小超矩形区域。以此叶结点的实例点作为当前最近点。目标点的最近邻一定在以目标点为中心并通过当前最近点的超球体的内部。然后返回当前结点的父结点，如果父结点的另一子结点的超矩形区域与超球体相交，那么在相交的区域内寻找与目标点更近的实例点。如果存在这样的点，将此点作为新的当前最近点。算法转到更上一级的父结点，继续上述过程。如果父结点的另一子结点的超矩形区域与超球体不相交，或不存在比当前最近点更近的点，则停止搜索。

算法3.3 （用$kd$树的最近邻搜索）
输入：已构造的$kd$树；目标点$x$；
输出：$x$的最近邻。
（1）在$kd$树中找出包含目标点$x$的叶结点：从根结点出发，递归地向下访问$kd$树，若目标点$x$当前维的坐标小于切分点的坐标，则移动到左子结点，否则移动到右子结点。直到子结点为叶结点为止。
（2）以此叶结点为“当前最近点”。
（3）递归地向上回退，在每个节点进行一下操作：
（a）如果该结点保存的实例点比当前最近点距离目标点更近，则以该实例点为“当前最近点”。
（b）当前最近点一定存在于该结点一个子结点对应的区域，检查该子结点的父结点的另一子结点对应的区域是否有更近的点。具体地，检查另一子结点对应的区域是否与以目标点为球心，以目标点与“当前最近点”间的距离为半径的超球体相交。
如果相交，可能在另一子结点对应的区域内存在距目标点更近的点，移动到另一子结点。接着，递归地进行最近邻搜索。
如果不相交，向上回退。
（4）当回退到根结点时，搜索结束。最后的“当前最近点”即为x的最近邻点。
注：如果实例点是随机分布的，$kd$树搜索的平均计算复杂度是$O(\log N)$，这里$N$是训练实例数。$kd$树更适用于训练实例数远大于空间维数时的$k$近邻搜索。当空间维数接近训练实例数时，他的效率会迅速下降，几乎接近线性扫描。

来源：李航《统计学习方法》