判别分析-4教学课件.ppt

设有总体 ， 具有概率密度函数 。根据以往的统计分析知 出现的概率为 （先验概率） 。则当样本 发生时，求他属于某类的概率。由贝叶斯公式计算后验概率： 判别规则 则 判给 。 一. 最大后验准则 则 判给 。 上式两边取对数并去掉与i无关的项，则等价的判别函数为： 特别在正态总体的假定下， 为正态分布的密度函数。 问题转化为若 ，则判 。 当协方差阵相等 则判别函数退化为 令 问题转化为若 ，则判 。 成为距离判别法 。 令 有 问题转化为若 ，则判 。 当先验概率相等， 二. 最小平均误判代价准则 设有总体 ， 具有概率密度函 数 。并且根据以往的统计分析，知道 出现的概率为 。 （先验概率） 又D1，D2，┅，Dk是R(p)的一个分划，判别法则为： 当样品X落入Di时，则判 问题：寻找D1，D2，┅，Dk分划，这个划分应使平均错判率最小。 平均错判损失定义： 用P(j/i)表示将来自总体Gi的样品错判到总体Gj的条件概率（误判概率）。 C(j/i)表示相应错判所造成的损失(误判损失）。 则平均错判损失（expected cost of misclassification) 为： 使ECM最小的分划，是Bayes判别分析的解。 定理 若总体G1，G2，?，Gk的先验概率为 且相应的密度函数为 ，损失为 则划分的Bayes解为 其中 含义：当抽取了一个未知总体的样品值x，要判别它属于那个总体，只要先计算出k个按先验概率加权的误判平均损失 下面讨论k=2，两个总体的情形。 然后比较其大小，选取其中最小的，则判定样品属于该总体。 可见，要使ECM最小，被积函数必须在D1是负数，则有分划 Bayes判别准则： 特别： 与标准Bayes判别等价 判 别 分 析 § 1. 判 别 分 析 判别分析 是用于判断样品所属类型的一种统计分析方法。 判别分析问题 设总体G1,,,Gk分布特征已知，对一个新样本X要判断其来自哪个总体？ 判别分析内容 两组和多组（组数区分） 线性和非线性（总体数模区分） 逐步判别和序贯判别（处理变量区分） 判别准则 马氏距离最小准则 Fisher准则 平均损失最小准则 最小平方准则 最大似然准则。。。。 判别分析方法 距离判别法 贝叶斯判别法 Fisher判别法 逐步判别法。。。。。 判别分析产生于20世纪30年代。在自然科学、社会学及经济管理学科中都有广泛的应用。 判别分析的特点是根据已掌握的、历史上每个类别的若干样本的数据信息，总结出客观事物分类的规律性，建立判别公式和判别准则。当遇到新的样本点时，只要根据总结出来的判别公式和判别准则，就能判别该样本点所属的类别。 例 中小企业的破产模型 为了研究中小企业的破产模型，选定4个经济指标： X1总负债率（现金收益/总负债） X2收益性指标（纯收入/总财产） X3短期支付能力（流动资产/流动负债） X4生产效率性指标（流动资产/纯销售额） 对17个破产企业（1类）和21个正常运行企业（2类）进行了调查，得如下资料： 总负债率 收益性指标 短期支付能力 生产效率指标 类别 -.45 -.41 1.09 .45 1 -.56 -.31 1.51 .16 1 .06 .02 1.01 .40 1 -.07 -.09 1.45 .26 1 -.10 -.09