课件-数理统计与多元统计-第七章-判别分析-7.1-2-距离判别法贝叶斯判别法.ppt

因此，贝叶斯判别法就是适当选取划分R，使总平均损失g(R)达到最小的判别方法。可见当fi(x),c(j|i),qi都给定时，总平均损失g(R)只依赖于判别规则R=(R1,R2,…,Rm)的划分。二两总体贝叶斯判别法的步骤为其先验分布划分此时总平均损失g(R)：*第一节距离判别法第二节贝叶斯判别法判别分析又称“分辨法”，它是在分类确定的条件下，根据某一研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。其基本原理是按照一定的判别准则，建立一个或多个判别函数，用研究对象的大量资料确定判别函数中的待定系数，并计算判别指标。据此即可确定某一样本归属于何类。即一种统计判别和分组技术，通过一定数量样本的一个分组变量和相应的其他多元变量的已知信息，来确定分组与其他多元变量信息所属的样本进行判别分组方法。例如：1.通过病人的某些检查指标，需要辨识出该病人所患疾病归于与哪一类；2.根据气象的多项指标数据，需要判别出未来天气是晴或阴，有雨或无雨等问题；一般来说，判别问题的数学描述为：设有m个p维总体G1,G2,…,Gm,分别服从一定的分布F1(x),F2(x),…,Fm(x),现有一个新样品x=(x1,x2,…,xp)T,如何判别此样品归属哪一个总体的问题。1.根据判别中的组数，可以分为两组判别分析和多组判别分析；2.根据判别函数的形式，可以分为线性判别和非线性判别；3.根据判别式处理变量的方法不同，可以分为逐步判别、序贯判别等；4.根据判别标准不同，可以分为距离判别、Fisher判别、Bayes判别法等。判别问题的解决方法分类：判别分析方法基本步骤第一步:明确样品的级别、类别标准。第二步:根据相应的测定值，去构造一个依赖于指标值的判别函数与判别规则。第三步:据此规则作出样品归属的判断。一两总体情况二多总体情况一两总体情况设有2个p维总体G1,G2,分别服从一定的分布F1(x),F2(x),现有一个新样品x=(x1,x2,…,xp)T,如何判别此样品归属哪一个总体的问题，即判别x来自G1或G2的问题。1.两总体判别问题解决方法：先根据已知信息建立样本x到两类G1或G2的距离，再由距离的远近判别此样本x的归属类。可见距离函数的选取是关键的要素，若采用欧氏距离，虽然计算相对简单，但若总体各分量的量纲不同，会影响距离值的变化，因此通常采用马氏距离。2.马氏距离函数当两总体均为正态总体，利用其协方差阵选用马氏距离：两点间的距离：点到总体的距离：按此规则判别，称为距离判别法。1）若协方差阵相等则距离为此时x到两总体的距离平方的差为取判别函数：则判别准则为：2）若协方差阵不相等令x到两总体的距离平方差的函数(判别函数）：这样，前述判别准则等价于：判别准则可见，W(x)与0的差距越大，样品到两总体差异越明显，作出正确判断的把握越大，W(x)越接近0，越造成误判。在实际中，当总体均值向量与协方差未知时,可用样本值来估计：若样本容量均为n时，则样本均值向量与样本协方差为：3两总体距离判别法的步骤1）先计算x到两总体的距离的平方值：2)确定判别函数的值：3）确定判别规则进行判断：例7.1.1设有两个二元正态总体:根据过去收集到的资料已估计出：现有一个样品x=(3,5)T，试计算x到各总体的马氏距离，并用距离判别法判别x的归属。解：1)x到两个总体的马氏距离的平方为：其中2)确定判别函数的值：3)判断：因W(x)0,所以此x属于G1。二多总体情况设有m个p维总体G1,G2,…,Gm分别服从一定的分布F1(x),F2(x),…,Fm(x)现有一个新样品x=(x1,x2,…,xp)T,如何判别此样品归属哪一个总体的问题，即判别x来自哪个总体的问题。1.多总体判别问题解决方法：先根据已知信息建立样本x到各类的距离，再由距离的远近判别此样本x的归属类。则两点间距离为则点到Gi的距离为其中各总体的均值与协方差均用矩估计代替，再令判别函数：易见，此时判别准则可为：具体判别步骤如下：2多总体距离判别法的步骤1）先计算x到各总体的距离的平方值：2)确定判别函数的值：3）确定判别规则进行判断：一贝叶斯判别法的基本思想二贝叶斯判别法的步骤三二正态总体两种判别法的区别四多总体Bayes判别法一贝叶斯判别法的基本思想贝叶斯判别法是先考虑分类的各