距离计算方法.docx

. 1. 欧氏距离 (Euclidean Distance) 欧氏距离是最易于理解的一种距离计算方法，源自欧氏空间中两点间的距离公式。 (1) 二维平面上两点 a(x1,y1) 与 b(x2,y2) 间的欧氏距离： (2) 三维空间两点 a(x1,y1,z1) 与 b(x2,y2,z2) 间的欧氏距离： (3) 两个 n 维向量 a(x11,x12, … ,x1n)与 b(x21,x22, … ,x2n)间的欧氏距离： 也可以用表示成向量运算的形式： 2. 曼哈顿距离 (Manhattan Distance) 从名字就可以猜出这种距离的计算方法了。 想象你在曼哈顿要从一个十字路口开车到另 外一个十字路口， 驾驶距离是两点间的直线距离吗？显然不是， 驶距离就是这个 哈顿距离 ”。而这也是曼哈顿距离名称的来源， 街区距离 (City Block distance) 。 (1) 二维平面两点 a(x1,y1) 与 b(x2,y2) 间的曼哈顿距离 除非你能穿越大楼。 实际驾 曼哈顿距离也称为 城市 (2) 两个 n 维向量 a(x11,x12, … ,x1n)与 b(x21,x22, … ,x2n)间的曼哈顿距离 5. 标准化欧氏距离 (Standardized Euclidean distance ) (1) 标准欧氏距离的定义 . . 标准化欧氏距离是针对简单欧氏距离的缺点而作的一种改进方案。标准欧氏距离的思 路：既然数据各维分量的分布不一样，好吧！那我先将各个分量都 准化 ”到均值、方差相 等吧。均值和方差标准化到多少呢？这里先复习点统计学知识吧，假设样本集 X 的均值 (mean) 为 m，标准差 (standard deviation) 为 s，那么 X 的 准化变量 ”表示为： 而且标准化变量的数学期望为 用公式描述就是： 0， 方差为 1。 因此样本集的标准化过程 (standardization) 标准化后的值 = ( 标准化前的值 经过简单的推导就可以得到两个 标准化欧氏距离的公式： － 分量的均值 ) /分量的标准差 n 维向量 a(x11,x12, … ,x1n) 与 b(x21,x22, … ,x2n) 间的 如果将方差的倒数看成是一个权重，这个公式可以看成是一种 Euclidean distance) 。 加权欧氏距离 (Weighted 7. 夹角余弦 (Cosine) 有没有搞错，又不是学几何，怎么扯到夹角余弦了？各位看官稍安勿躁。几何中夹角余 弦可用来衡量两个向量方向的差异，机器学习中借用这一概念来衡量样本向量之间的差异。 (1) 在二维空间中向量 A(x1,y1) 与向量 B(x2,y2) 的夹角余弦公式： (2) 两个 n 维样本点 a(x1 1,x12, … ,x1n)和 b(x21,x22, … ,x2n)的夹角余弦 类似的，对于两个 n 维样本点 a(x11,x12, … ,x1n)和 b(x21,x22, … ,x2n)，可以使用类似 于夹角余弦的概念来衡量它们间的相似程度。 即： . . 夹角余弦取值范围为 [-1,1] 。夹角余弦越大表示两个向量的夹角越小，夹角余弦越小表 示两向量的夹角越大。 当两个向量的方向重合时夹角余弦取最大值 1， 当两个向量的方向完 全相反夹角余弦取最小值 -1。 .