第12章 判别分析.pptxVIP

会计学1第12章 判别分析 判别分析：从反映个体性质各个侧面的P个变量出发，通过定量分析，最终将其判归某一已知总体，从而将对个体的研究置于更为广泛的总体研究背景上。各种判别分析都是按照某种判别原则（视判别方法不同而不同），在P维空间R中建立一个划分第1页/共27页 Outline第一节 距离判别分析第二节 贝叶斯判别分析第三节 费希尔判别分析第2页/共27页 第一节 距离判别一、距离判别的准则二、总体参数未知的距离判别三、两个总体的距离判别四、关于错判问题第3页/共27页 一、距离判别的准则要对空间的某个已知点进行类属判别，最易想到的方法是按该点在空间中与各已知总体的距离的远近来进行判别，这就是判别分析中最常见的距离判别法的思想方法。距离判别中，要求距离的计算不受P个分量量纲的影响，因此多采用马氏距离计算。第4页/共27页 聚类分析Vs.判别分析聚类分析之前，我们对“所研究的事例(或样品)应如 何分类”、“某一个事例（或样品）属于那一类”等问题是并不知晓；但在进行判别分析之前，必须有足够数量的样品(或 事例)，并对它们归属于那一类有相当正确的认识。判别分析的作用在于将某个样品归到正确的类别。做法是：根据掌握的分类资料建立一个较优的判别函数，使判错率最小，将欲判定的样品值代入判别函数，从而判定它属于已知类别中的哪一类。第5页/共27页 第一节 距离判别分析方法Distance Discrimination Analysis距离判别分析的基本思路： 计算样品到给定类别的距离，把它划归到距离最 近的类别设X，Y是从均值向量为μ，协方差阵为Σ的总体G中抽取的两个样品，定义X，Y之间的马氏距离平方为： 定义X，与总体G之间的马氏距离平方为：第6页/共27页 距离判别的准则 设有k个已知的类别(记为G1，G2，…，Gk)，各类的 平均数分别为 μ1, μ2, …, μk，方差协方差矩阵为Σ1，Σ2, …, Σk。欲将某个样品x归入到这 k 类中的一类， 其判别函数为马氏距离，判别准则为x∈Gj，当d (x，Gj )＝Min {d (x，Gi )} 其中Min是对 i ＝1，2，…，k 类的距离求极小值； d (x，Gi )＝[(x－ )Σi－1(x－ )]1/2。计算时用 作 μi 的估计值，用 Si 作Σi的估计值。第7页/共27页 距离判别法的计算步骤1.计算出 k 个类别的方差协方差矩阵及其逆阵。2.计算出各训练样本到这 k 个类别的马氏距离， 比较这 k 个距离，把训练样本归到距离最短的类中。计算第二步中的错判率。如果错判率太大， 说明要么原来的分类不可靠；要么是尽管原来的分 类是对的，但用距离判别得不到精确的结果。4.如果还有新的待判样本，计算各个新样本到 这 k 个类别的马氏距离，比较 k 个距离，把各个新样 本归到距离最短的类中。第8页/共27页 二、总体参数未知的距离判别第9页/共27页 两个总体的距离判别第10页/共27页 第二节 贝叶斯判别分析方法Bayes Discrimination Analysis 贝叶斯判别分析：考虑到各个样本出现在不同类别中的概率大小不同和样本判错以后造成的损失。 设有k个已知的类别(记为G1，G2，…，Gk)，它们具 有概率分布函数 f1(x)，f2(x)，…，fk(x)。又设某一样 品x＝(x1，x2，…，xm)属于各个类别的概率分别为q1， q2，…，qk。如果将某种划分方式记为 R ＝{R1，R2，…，Rk}， 于是判别规则为： x∈Gi，当x落在R i (i ＝1，2，…，k)第11页/共27页 第二节 贝叶斯判别分析方法Bayes Discrimination Analysis 贝叶斯判别分析的基本思路： 如果已知将原应属于Gi的样品误判为属于Gj所造成 的损失为 C ( j | i )， 造成这种误判的可能性为概率 P(j | i, R)， 则按这种划分方式把原应属于Gi的样品 误判为属于其它类别的平均损失为 ri (R ) ＝其中C (i | i) ＝0，即不误判时损失为0。 g (R ) ＝ （i, j＝1, 2, …, k） 因为样品x来自Gi的先验概率为qi，所以通过这 种划分方式进行判别的总平均损失为 贝叶斯判别法的 目的是寻找一种划分 方式 R 使总的平均损 失g (R )达到最小。第12页/共27页 第二节 贝叶斯判别分析方法Bayes Discrimin