典型判别分析与贝叶斯判别的区别.docVIP

典型判别分析与贝叶斯判别的区别 原理不同 典型判别是根据方差分析思想，进行投影，将原来一个维度空间的自变量组合投影到另一维度空间，寻找一个由原始变量组成的线性函数使得组间差异和组内差异的比值最大化。根据样本点计算判别函数，计算判别函数到各类中心的欧式距离，取距离最小的类别。 贝叶斯判别是是利用已知的先验概率去推证将要发生的后验概率，就是计算每个样本的后验概率及其判错率，用最大后验概率来划分样本的分类并使得期望损失达到最小 前提条件不同 典型判别不考虑样本的具体分布，只求组间差异和组内差异的比值最大化 贝叶斯判别从样本的多元分布出发，充分利用多元正态分布的概率密度提供的信息计算后验概率，因此需要样本数据服从多元正态分布，方差齐性等。 产生的判别函数不同 典型判别根据K类最多产生K-1个判别函数 贝叶斯判别根据K类最多可产生K个判别函数 先验概率在判别分析中的作用 1. 所谓先验概率，就是用概率来描述人们事先对所研究的对象的认识的程度，是根据以往经验和分析得到的概率。所谓后验概率，就是根据具体资料、先验概率、特定的判别规则所计算出来的概率。它是对先验概率修正后的结果，它是更接近于实际情况的概率估计。贝叶斯（BAYES）判别思想是根据先验概率求出后验概率，并依据后验概率分布作出统计推断 2.样品的先验概率对预测有一定的作用，反应样本分布的总体趋向性。被判断的个案应该属于先验概率最大总体的概率应该高一些，贝叶斯考虑了先验概率的影响提高判别的敏感度，同时利用先验概率可以求出后验概率（基于平均损失函数）和误判率，从而进行判别分析，充分利用数据的概率密度分布，判别效率高。样品归于概率大的类别。 3.这样使误判平均损失最小。既考虑到不同总体出现机会的差异、各错误判断造成损失的不同，又充分尊重了每个总体的分布状态 判别准则的评价 刀切法：基本思想是每次剔除训练样本中的一个样本，利用其余容量的训练样本建立判别函数，再用所建立的判别函数对删除的那个样本做判别，对训练样本中的每个样品重复上述步骤，已其误判的比例作为误判概率的估计。 判别分析结果 Eigenvalues Function Eigenvalue % of Variance Cumulative % Canonical Correlation 1 2.864(a) 93.4 93.4 .861 2 .201(a) 6.6 100.0 .409 a First 2 canonical discriminant functions were used in the analysis. 判别函数的特征根，方差百分比，累计方差百分比 本例中提取了两个判别函数，绝大多数信息在第一个判别函数上。 Wilks Lambda Test of Function(s) Wilks Lambda Chi-square df Sig. 1 through 2 .215 16.116 8 .041 2 .833 1.923 3 .589 对判别函数的显著性检验，第一步是两个函数的总体检验，是有意义的，说明第一个函数肯定有意义，然后对第二个函数进行检验，发现没有意义 Standardized Canonical Discriminant Function Coefficients Function 1 2 x1 .367 -.004 x2 .573 -.835 x3 .667 .589 x4 .349 .531 标准化典型判别函数系数表 f=0.367zx1+0.573zx2+0.667zx3+0.349zx4,判别函数方程的标准化系数就是判别权重，可以确定各变量对结果的作用大小，可以看出x3对y的影响最大,自变量的重要性：X3X2X1X4 Structure Matri Function 1 2 x3 .659(*) .278 x1 .205(*) .166 x2 .659 -.710(*) x4 .307 .460(*) 典型判别得分与自变量之间的相关系数，可以看出第一判别函数主要与x3,x1相关，另外两个与第二判别函数相关，自变量对第一判别函数的贡献： Canonical Discriminant Function Coefficients Function 1 2 x1 .007 .000 x2 .039 -.056 x3 .178 .157 x4 .036 .054 (Constant) -8.246 5.165 Unstandardized coefficients 原始变量的典型判别函数，式中有常数项 F1=0.007x1+0.039x2+0.178x3+0.036x4-8.246 Functions at Group Centroids group Functio