K-近邻算法

K Nearest Neighbor算法又叫KNN算法。如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。

距离度量

为了度量空间中点的距离，有许多方式，最常见的三种方式就是欧氏距离，曼哈顿距离以及切比雪夫距离。

1 欧式距离(Euclidean Distance):

欧氏距离是最容易直观理解的距离度量方法,通常KNN算法中使用的是欧式距离。 二维平面上点 $\mathrm{a}\left({\mathrm{x}}_1,{\mathrm{y}}_1\right)$ 与b $\left({\mathrm{x}}_2,{\mathrm{y}}_2\right)$ 间的欧氏距离: $d_{12}=\sqrt{{\left(x_1-x_2\right)}^2+{\left(y_1-y_2\right)}^2}$ 三维空间点a $\left({\mathrm{x}}_1,{\mathrm{y}}_1,{\mathrm{z}}_1\right)$ 与 $\mathrm{b}\left({\mathrm{x}}_2,{\mathrm{y}}_2,{\mathrm{z}}_2\right)$ 间的欧氏距离: $$d_{12}=\sqrt{{\left(x_1-x_2\right)}^2+{\left(y_1-y_2\right)}^2+{\left(z_1-z_2\right)}^2}$$ n维空间点a $\left({\mathrm{x}}_{11},{\mathrm{x}}_{12},\dots ,{\mathrm{x}}_{1n}\right)吻\left({\mathrm{x}}_{21},{\mathrm{x}}_{22},\dots ,{\mathrm{x}}_{2n}\right)$ 间的欧氏距离 ( 两个n维向量 ) : $$d_{12}=\sqrt{\sum _{k=1}^n{\left(x_{1k}-x_{2k}\right)}^2}$$

2 曼哈顿距离(Manhattan Distance):

在曼哈顿街区要从一个十字路口开车到另一个十字路口, 驾驶距离显然不是两点间的直线距离。这个实际驾驶距离就是"曼哈顿距离”。曼哈顿距离也称为“城市街区距离"(City Block distance)

二维平面两点 $a\left(x_1,y_1\right)$ 与 $b\left(x_2,y_2\right)$ 间的曼哈顿距离： $$d_{12}=\left|x_1-x_2\right|+\left|y_1-y_2\right|$$ n维平面两点 $a\left(x_{11},x_{12},\dots ,x_{1n}\right)$ 与 $b\left(x_{21},x_{22},\dots ,x_{2n}\right)$ 间的曼哈顿距离： $$d_{12}=\sum _{k=1}^n\left|x_{1k}-x_{2k}\right|$$

3 切比雪夫距离 (Chebyshev Distance):

国际象棋中, 国王可以直行、横行、斜行, 所以国王走一步可以移动到相邻8个方格中的任意一个。国王从 格子(x1,y1)走到格子(x2,y2)最少需要多少步? 这个距离就口切比雪夫距离。

二维平面两点 $a\left(x_1,y_1\right)$ 与 $b\left(x_2,y_2\right)$ 间的切比雪夫距离： $$d_{12}=\max \left(\left|x_1-x_2\right|,\left|y_1-y_2\right|\right)$$ n维空间点 $a\left(x_1\mid ,x_1,\dots ,x_{10}\right)$ 与 $b\left(x_2,x_2,\dots ,x_2\right)$ 的切比雪夫距离 $$d_{12}=\max \left(\left|x_{1i}-x_{2i}\right|\right)$$

k值的选择

「统计学习方法」上所说：

选择较小的K值，就相当于用较小的领域中的训练实例进行预测，“学习”近似误差会减小，只有与输入实例较近或相似的训练实例才会对预测结果起作用，与此同时带来的问题是“学习”的估计误差会增大，换句话说，K值的减小就意味着整体模型变得复杂，容易发生过拟合；

选择较大的K值，就相当于用较大领域中的训练实例进行预测，其优点是可以减少学习的估计误差，但缺点是学习的近似误差会增大。这时候，与输入实例较远（不相似的）训练实例也会对预测器作用，使预测发生错误，且K值的增大就意味着整体的模型变得简单。

K=N（N为训练样本个数），则完全不足取，因为此时无论输入实例是什么，都只是简单的预测它属于在训练实例中最多的类，模型过于简单，忽略了训练实例中大量有用信息。

在实际应用中，K值一般取一个比较小的数值，例如采用交叉验证法（简单来说，就是把训练数据在分成两组:训练集和验证集）来选择最优的K值。对这个简单的分类器进行泛化，用核方法把这个线性模型扩展到非线性的情况，具体方法是把低维数据集映射到高维特征空间。

kd树

实现k近邻法时，主要考虑的问题是如何对训练数据进行快速k近邻搜索。这在特征空间的维数大及训练数据容量大时尤其必要。

k近邻法最简单的实现是线性扫描（穷举搜索），即要计算输入实例与每一个训练实例的距离。计算并存储好以后，再查找K近邻。当数据集很大时，这个计算成本非常高，针对N个样本，D个特征的数据集，其算法复杂度为$O(D{N}^2)$。

为了提高kNN搜索的效率，可以考虑使用特殊的结构存储训练数据，以减小计算距离的次数。

kd树为了避免每次都重新计算一遍距离，算法会把距离信息保存在一棵树里，这样在计算之前从树里查询距离信息，尽量避免重新计算。其基本原理是，如果A和B距离很远，B和C距离很近，那么A和C的距离也很远。有了这个信息，就可以在合适的时候跳过距离远的点。

这样优化后的算法复杂度可降低到$O(DNlog(N))$。

构造方法

（1）构造根结点，使根结点对应于K维空间中包含所有实例点的超矩形区域；

（2）通过递归的方法，不断地对k维空间进行切分，生成子结点。在超矩形区域上选择一个坐标轴和在此坐标轴上的一个切分点，确定一个超平面，这个超平面通过选定的切分点并垂直于选定的坐标轴，将当前超矩形区域切分为左右两个子区域（子结点）；这时，实例被分到两个子区域。

（3）上述过程直到子区域内没有实例时终止（终止时的结点为叶结点）。在此过程中，将实例保存在相应的结点上。

（4）通常，循环的选择坐标轴对空间切分，选择训练实例点在坐标轴上的中位数为切分点，这样得到的kd树是平衡的（平衡二叉树：它是一棵空树，或其左子树和右子树的深度之差的绝对值不超过1，且它的左子树和右子树都是平衡二叉树）。

KD树中每个节点是一个向量，和二叉树按照数的大小划分不同的是，KD树每层需要选定向量中的某一维，然后根据这一维按左小右大的方式划分数据。在构建KD树时，关键需要解决2个问题：

（1）选择向量的哪一维进行划分；

（2）如何划分数据；

第一个问题简单的解决方法可以是随机选择某一维或按顺序选择，但是更好的方法应该是在数据比较分散的那一维进行划分（分散的程度可以根据方差来衡量）。好的划分方法可以使构建的树比较平衡，可以每次选择中位数来进行划分，这样问题2也得到了解决。

K-近邻算法总结

优点：

简单有效重新训练的代价低适合类域交叉样本 KNN方法主要靠周围有限的邻近的样本,而不是靠判别类域的方法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集来说，KNN方法较其他方法更为适合。适合大样本自动分类 该算法比较适用于样本容量比较大的类域的自动分类，而那些样本容量较小的类域采用这种算法比较容易产生误分。

缺点：

惰性学习 KNN算法是懒散学习方法（lazy learning,基本上不学习），一些积极学习的算法要快很多类别评分不是规格化 不像一些通过概率评分的分类输出可解释性不强 例如决策树的输出可解释性就较强对不均衡的样本不擅长 当样本不平衡时，如一个类的样本容量很大，而其他类样本容量很小时，有可能导致当输入一个新样本时，该样本的K个邻居中大容量类的样本占多数。该算法只计算“最近的”邻居样本，某一类的样本数量很大，那么或者这类样本并不接近目标样本，或者这类样本很靠近目标样本。无论怎样，数量并不能影响运行结果。可以采用权值的方法（和该样本距离小的邻居权值大）来改进。计算量较大 目前常用的解决方法是事先对已知样本点进行剪辑，事先去除对分类作用不大的样本。