7第五章 判别分析.ppt

zf zf 第五章 判别分析 (Discriminate Analysis) 距离判别　 贝叶斯(Bayes)判别 费歇尔(Fisher)判别 逐步判别　　　 一、判别分析的基本思想 一、什么是判别分析？ 判别分析 　　　根据已知对象的某些观测指标和所属类别来判断未知对象所属类别的一种统计学方法。 如何判断（判断依据）？ 利用已知类别的样本信息求判别函数，根据判别函数对未知样本所属类别进行判别 判别分析的特点（基本思想） 　１、是根据已掌握的、历史上若干样本的p个指标数据及所属类别的信息，总结出该事物分类的规律性，建立判别公式和判别准则。 2、根据总结出来的判别公式和判别准则，判别未知类别的样本点所属的类别. 判别分析的目的：识别一个个体所属类别 判别分析的应用：无处不在 医学： 例1：在医学诊断中，一个病人肺部有阴影，医生要判断他患的是肺结核、肺部良性肿瘤还是肺癌？ 肺结核病人、肺部良性肿瘤病人、肺癌病人组成三个总体，病人来自其中一个总体，可通过病人的指标（阴影大小、边缘是否光滑等）用判别分析判断他来自哪个总体（即判断他患的什么病？） 经济学： 例2：中小企业的破产模型 为了研究中小企业的破产模型，选定4个经济指标： X1总负债率（现金收益/总负债） X2收益性指标（纯收入/总财产） X3短期支付能力（流动资产/流动负债） X4生产效率性指标（流动资产/纯销售额） 对17个破产企业（1类）和21个正常运行企业（2类）进行了调查，得如下资料： 3、判别分析和聚类分析往往联合使用。当总体分类不清楚时，先用聚类分析对一批样本进行分类，再用判别分析构建判别式对新样本进行判别。 此外判别分析变量情况： 被解释变量为属性变量； 解释变量是定量变量。 四、判别分析类型及方法 （1）按判别的组数来分，有两组判别分析和多组判别分析 （2）按区分不同总体所用的数学模型来分，有线性判别和非线性判别 （3）按判别对所处理的变量方法不同有逐步判别、序贯判别。 （4）按判别准则来分，有费歇尔判别准则、贝叶斯判别准则 本章介绍的主要判别分析方法： 距离判别 贝叶斯(Bayes)判别 费歇尔(Fisher)判别 逐步判别 一、距离判别 基本思想： 即：首先根据已知分类的数据，分别计算各类的重心即各组（类）的均值，判别的准则是对任给样品，计算它到各类平均数的距离，哪个距离最小就将它判归哪个类。 （一）两个总体的距离判别法 1、方差相等 先考虑两个总体的情况，设有两个协差阵?相同的p维正态总体，对给定的样本Y，判别一个样本Y到底是来自哪一个总体，一个最直观的想法是计算Y到两个总体的距离。故我们用马氏距离来给定判别规则，有： 则前面的判别法则表示为 2、当总体的协方差已知，且不相等 （二）多总体的距离判别法 1、协方差阵相等 设有个K总体，分别有均值向量 (i=1,2,…,k)和协方差阵Σi= Σ，又设Y是一个待判样品。则Y与各总体的距离为（即判别函数）： （与两个总体类似，书101－102页） 则距离判别法的判别函数为： 2、协方差阵不等 设有个K总体，分别有均值向量 (i=1,2,…,k)和协方差阵不等，又设Y是一个待判样品。则Y与各总体的距离为（即判别函数）： （与两个总体类似，书102页） 距离判别法的优缺点： 该方法简单实用，但没有考虑到每个总体出现的机会大小，即先验概率，没有考虑到错判的损失。 贝叶斯判别法正是为了解决这两个问题提出的判别分析方法。 三、贝叶斯(Bayes)判别 贝叶斯判别法是通过计算被判样本x属于k个总体的条件概率P（n/x),n=1,2…..k. 比较k个概率的大小，将样本判归为来自出现概率最大的总体（或归属于错判概率最小的总体）的判别方法。 一、最大后验概率准则 设有k个总体　　　　　且总体　　的概率密度为　　 ，样本x来自　　的先验概率为　　　　　　满足 　　　　　．利用贝叶斯理论，x属于　的后验概率 （即当样本x已知时，它属于　　的概率为： 最大后验概率判别准则： 例1：办公室新来了一个雇员小王，小王是好人还是坏人大家都在猜测。按人们主观意识，一个人是好人或坏人的概率均为0.5。坏人总是要做坏事，好人总是做好事，偶尔也会做一件坏事，一般好人做好事的概率为0.9，坏人做好事的概率为0.2，一天，