马氏距离学习.pptxVIP

距离判别法;欧氏距离的定义与计算公式 欧氏距离的优点与缺陷 马氏距离的概念 马氏距离的定义与计算公式 马氏距离的优点与缺点 欧氏距离与马氏距离的区别与联系 ;欧氏距离的定义与计算方法;欧氏距离的缺陷;什么是马氏距离？;马氏距离定义：;∑=cov(x,y)=E〔(X-EX)(Y-EY)〕 = cov(x1,y1) cov(x1,y2)… cov(x1,yp) cov(x2,y1) cov(x2,y2)… cov(x2,yp) cov(xp,y1) cov(xp,y2)… cov(xp,yp) Cov(x,y)=0时，x与y不相关。;马氏距离的其它定义：;马氏距离优点;马氏距离;1）马氏距离的计算是建立在总体样本的基础上的，这一点可以从上述协方差矩阵的解释中可以得出，也就是说，如果拿同样的两个样本，放入两个不同的总体中，最后计算得出的两个样本间的马氏距离通常是不相同的，除非这两个总体的协方差矩阵碰巧相同； 2）在计算马氏距离过程中，要求总体样本数大于样本的维数，否则得到的总体样本协方差矩阵逆矩阵不存在，这种情况下，用欧式距离计算即可。;3）还有一种情况，满足了条件总体样本数大于样本的维数，但是协方差矩阵的逆矩阵仍然不存在，比如三个样本点（3，4），（5，6）和（7，8），这种情况是因为这三个样本在其所处的二维空间平面内共线。这种情况下，也采用欧式距离计算。 ;4）在实际应用中“总体样本数大于样本的维数”这个条件是很容易满足的，而所有样本点出现3）中所描述的情况是很少出现的，所以在绝大多数情况下，马氏距离是可以顺利计算的，但是马氏距离的计算是不稳定的，不稳定的来源是协方差矩阵，这也是马氏距离与欧式距离的最大差异之处。 ;例题：;第15页/共20页;第16页/共20页;第17页/共20页;第18页/共20页; Thank You ! ;感谢您的观看！