模式识别决策方法.ppt

正态分布条件下的Bayes决策情况一各类协方差矩阵相同，∑i＝∑j＝∑各特征统计独立，即：，i≠j且，i=j即第59页,共75页，星期六，2024年，5月正态分布条件下的Bayes决策情况一此时，，且其中：单位矩阵第60页,共75页，星期六，2024年，5月正态分布条件下的Bayes决策情况一则判别函数：此时的Bayes决策等价为：若要将待识样本X进行分类，则只需计算X到各类样本均值向量μi的欧氏距离，再将X归类到距离最近的类别，此时的分类器称为最小距离分类器。欧氏距离第61页,共75页，星期六，2024年，5月正态分布条件下的Bayes决策情况一均值向量μ１均值向量μ2待识样本Ｘ最小距离分类器第62页,共75页，星期六，2024年，5月正态分布条件下的Bayes决策情况一由于：与类别无关，可不考虑第63页,共75页，星期六，2024年，5月正态分布条件下的Bayes决策情况一故：称gi(x)为线性判别函数，相应的分类器为线性分类器。第64页,共75页，星期六，2024年，5月正态分布条件下的Bayes决策情况一第65页,共75页，星期六，2024年，5月情况一第66页,共75页，星期六，2024年，5月正态分布条件下的Bayes决策情况二各类方差相同，即则其中称为样本X与正态分布模式类的马氏距离（Mahalanobis距离）。当待识别的样本X到来时，分别计算样本X与各个模式类的马氏距离，并将X分类到马氏距离最近的模式类中。第67页,共75页，星期六，2024年，5月正态分布条件下的Bayes决策情况二可以证明，此时判别函数仍满足线性关系，即：分类器仍为线性分类器第68页,共75页，星期六，2024年，5月正态分布条件下的Bayes决策情况三各类协方差矩阵各不相同，即：分类器为非线性分类器（二次型分类器）第69页,共75页，星期六，2024年，5月影响模式识别的关键因素模式的紧致性问题若将模式类视为集合，则集合中的点可分为两类：内点和临界点内点：与该点相邻的点（距离最近的点）仍然属于该点所在的集合临界点：与该点相邻的点属于另外的集合（模式类）。第70页,共75页，星期六，2024年，5月影响模式识别的关键因素模式的紧致性问题若将模式类视为集合，则集合中的点可分为两类：内点和临界点内点：与该点相邻的点（距离最近的点）仍然属于该点所在的集合临界点：与该点相邻的点属于另外的集合（模式类）。第71页,共75页，星期六，2024年，5月影响模式识别的关键因素模式的紧致性问题无临界点临界点较少临界点多得无法进行分类第72页,共75页，星期六，2024年，5月影响模式识别的关键因素模式的紧致性问题紧致集：指满足下列条件的模式类临界点的数量与总的样本点数相比很少每个内点对都有足够大的邻域，使得该邻域内的点都在同一集合假若每一模式类都满足紧致集的假设，则模式识别并不存在多大困难，但对于许多识别问题，该假设并不成立。第73页,共75页，星期六，2024年，5月影响模式识别的关键因素解决问题的途径通过空间变换或映射来解决，不满足紧致性假设的模式类映射到另外的几何空间可能就满足紧致性。如何进行特征空间变换或映射？第74页,共75页，星期六，2024年，5月影响模式识别的关键因素解决问题的途径选择更为有效的特征。如何有效选择有效特征？尽量选择反映共性，突出异性的特征，即类间距离越大越好，类内距离越小越好。尽量选择统计无关的特征，减少信息冗余。在相同错误概率条件下，选择维数较小的特征。根据识别对象的特点，选择反映事物本质特性的参数作为特征（例，语音的音调周期，声道参数等）第75页,共75页，星期六，2024年，5月最小风险（损失）的Bayes决策风险函数（损失函数）假定我们观测某个特定模式X并且采取行为ai，如果真实的类别状态为?j，通过定义我们将有损失?(ai/?j)显然，与行为ai相关的总的损失为第27页,共75页，星期六，2024年，5月最小风险（损失）的Bayes决策风险函数（损失函数）上式称为作出决策ai的风险函数，简记为：第28页,共75页，星期六，2024年，5月最小风险（损失）的Bayes决策决策过程当待识样本X到来时，将其判为各类所带来的风险分