判别分析课程论文管理.docxVIP

判别分析论文作者邝淑芳目录第一章判别分析§1.1什么是判别分析3§1.2判别分析的分类.3§1.3判别分析的适用条件3§1.4判别分析的方法3第二章距离判别法§2.1什么是距离判别法4§2.2马氏距离4§2.3两个总体的判别4§2.4多个总体的判别5第三章贝叶斯判别法§3.1什么是贝叶斯判别法6§3.2贝叶斯判别的方法6§3.3最大后验概率法6§3.4最小期望误判法6第四章费希尔判别法§4.1什么是费希尔判别法6§4.2费希尔判别法的基本思想7§4.3费希尔判别函数和准则7§4.4费希尔判别法的步骤8第五章案列分析§5.1距离判别法10§5.2贝叶斯判别法13§5.3费希尔判别法14附录16第一章.判别分析§1.1什么是判别分析判别分析，是一种统计判别和分组技术，就一定数量样本的一个分组变量和相应的其他多元变量的已知信息，确定分组与其他多元变量信息所属的样本进行判别分组。用数学的语言来说，判别问题可以表述为：对于个样品，每个样品有个指标，已知每个样品属于某一类别（总体），对于每类别其分布函数分别为，对于一个给定样品，我们要判断出这个样本来自哪个总体。判别分析的主要问题就是如何寻找最佳的判别函数和建立判别规则。§1.2判别分析的分类根据判别中的组数，可以分为两组判别分析和多组判别分析；根据判别函数的形式，可以分为线性判别和非线性判别；根据判别式处理变量的方法不同，可以分为逐步判别、序贯判别等；根据判别标准不同，可以分为距离判别、贝叶斯判别、费希尔判别等。§1.3判别分析的适用条件自变量服从正态分布。自变量之间没有多重共线性。每个变量在各类中的取值应存在显著差异。§1.4判别分析的方法（本文主要介绍三种方法，其它方法暂不讨论）距离判别法。贝叶斯判别法。费希尔判别法。.距离判别法§2.1什么是距离判别法距离判别法是最为直观，其想法自然、简单，就是计算新样品到各组的距离，然后将该样品判为离它距离最近的一组。§2.2马氏距离关于在判别分析中使用的距离问题，因为欧式距离未能将变量之间通常存在的相关性考虑在内，故不太理想，而马氏距离却能很好的弥补这种不足，因此在判别分析中通常使用马氏距离。对于一个均值为μ，协方差矩阵为Σ的多变量向量，点到总体的平方马氏距离为：。§2.3两个总体的判别①当Σ1=Σ2=Σ时的判别（Σ是协方差矩阵）：判别规则：计算到两个组的平方马氏距离，按距离最近原则判别，则可总结为：判别函数：为两组距离判别的判别函数，又称为线性判别函数，称为判别系数向量。，其中是两个组均值的平均值，。那么判别规则可简化为：误判概率：用表示来自而误判为的概率；用表示来自而误判为的概率；即用表示这两组之间的马氏距离，因此两个组越是分开（即越大），误判的概率就会越小，此时的判别效果越佳。当两个组很接近时，误判概率将很大，这时做判别分析就没有什么实际意义。②当Σ1≠Σ2时的判别判别规则：计算到两个组的平方马氏距离，按距离最近原则判别，则可总结为：判别函数：相应的判别规则为：§2.4多个总体的判别设有个组，它们的均值分别是协方差矩阵分别是。到的总体平方马氏距离：. 判别规则：，判别规则简化为：其中.此时为线性判别函数。实际中一般都是未知的。①时，可估计为,的联合无偏估计为，其中为组数，为每组的样本个数，，组的样本协方差矩阵。②不全相等时，，可估计为,的联合无偏估计为。第三章.贝叶斯判别法§3.1什么是贝叶斯判别法如果对多个总体的判别考虑的不是建立判别式，而是计算新给样品属于各总体的条件概率，比较这个概率的大小，然后将样品判归为来自概率最大的总体，这种判别方法称为贝叶斯判别方法。§3.2贝叶斯判别的方法最大后验概率法最小期望误判代价法§3.3最大后验概率法基本思想：设有个组，且组的概率密度为样品来自组的先验概率为满足。根据贝叶斯公式，属于的后验概率（即当样品已知时，它属于的概率）为.判别规则：.§3.4最小期望误判代价法最大后验概率法只考虑到了先验概率，忽略了误判代价，该方法等价于误判代价相同时的最小期望误判代价法，此时的总误判概率达到最小，也可称为最小总误判概率法。第四章.费希尔判别法§4.1什么是费希尔判别法Fisher判别是一种先进行高维向低位投影，再根据距离判别的一种方法。借助方差分析的思想构造判别函数（相当于一种投影），使组间区别最大、组内离差最小，然后代入新样本数据，将其与判别临界值比较以确定应判为至哪一总体。§4.2费希尔判别法的基本思想它的基本思想是通过将多维数据投影到某一方向上，使得投影后类与类之间尽可能的分开，然后再选择合适的判别准则，将待判的样本进行分类判别。而衡量类与类之间是否分开的方法是借助于一元方差分析的思想，利用方差分析的思想来导出判别函数。§4.3 费希尔判别函数和判别准