模式识别方法课件.pptVIP

华东理工大学EastChinaUniversityofScienceAndTechnology模式识别理论及其应用简介PatternRecognitionanditsApplication

模式识别计算过程示意图

有监督模式识别（判别分析）l如果样本的类别数是已知的，先用一组已知类别的化合物作为训练集，建立判别模型，再用建立的模型根据相似性原则来对未知样本进行识别，称为判别分析。判别分析是在事先知道类别特征的情况下建立判别模型对样本进行识别归属，是一种有监督模式识别。

无监督模式识别（聚类分析）l如果预先不知道样本的类别，要在学习过程中根据样本的相似性对被识别的样品进行识别分类和归类，称为聚类分析。聚类分析是完全依靠样本自然特性进行识别的方法，是一种无监督模式识别。

常用术语l特征抽提（FeatureExtraction）l训练集（TrainingSet）l预报集（PredictionSet）l识别率（RecognitionRate）l预报能力（PredictiveAbility）l留一法（LeavingOneMethod）

注意事项①训练集的数据一定要可靠。②训练集的样本数目要足够多，样本数m与模式空间维数n的比值至少应满足m/n≥3，最好m/n≥10。③模式空间特征的选择是成败的关键，要选取与样本分类有关的特征，如果不能包括与分类有关的主要特征，模式识别就不会有好的效果。

模式识别的数据预处理

特征抽提

模式间相似度的度量

马氏距离（MahalanobisDistance）l设X,是从均值为，协方差阵为Z的总i体G中的样本，则它们的马氏距离为l而X与总体G的距离为它与均值的距离i

马氏距离（MahalanobisDistance）l其中X为样本i所有变量构成的p×1维i向量，Z为关于p个变量的协方差阵（p×p维）。l当采用主成分得分向量T替代X时，由ii于主成分向量正交，Z成为由其方差（特征值）构成的对角阵，此时马氏距离为：

K-NearestNeighborsDiscriminationMethodlKNN法的基本假设：“同类样本在模式空间中相互较靠近”。

lK最近邻法考查未知样本点的K个近邻（K为单数整数），若近邻某一类样本最多，则可将未知样本判为该类。l为了进行定量判别，可先找出待分类样本的最近邻，并事先约定最近邻区域中的训练集样本数。如果只取一个最近邻样本点，即样本数为１，则称1NN法；如果取２个最近邻样本点，即样本数为2，则称2NN法；如果样本数为K，则称K近邻法，简称KNN法。

KNN算法l计算未知样本点和所有训练集样本点之间的距离。l从最小距离开始计样本数，一直计到有K个样本数为止，此时所对应的距离就为最近邻的最小距离。l如果在这个最小距离中，距某一类训练集中的样本数多，距离又小，则可将待分类样本划到该类中。l优点：对数据结构无特殊要求，简单易行，不需要训练过程。l缺点：未对训练点进行信息压缩，每判断一个点都要将其对所有已知点的距离计算一遍,工作量较大。

简化的KNN法—类重心法l将训练集中每类样本点的重心求出，然后判别未知样本点与各类重心的距离。未知样本点距哪一类重心距离最近，即未知样本属于哪一类。l例：有两种地层，用7种指标的分析数据判别，先从已经准确判断的地层中各取9个样本，测得的数据如下表：

将上表数据进行归一化处理后计算两类的重心得：C1=[-0.0103,0.0402,-0.0246,0.0166,0.0313,-0.0246,-0.0174]′C2=[0.0103,-0.0402,0.0246,-0.0166,-0.0313,0.0246,0.0174]′地层I、II的每一个矢量与C和C的距12离分别如表a和表b所示：

线性学习机法Linearlearningmachine—LLMl作为模式识别中决策分类的一种方法，该法希望通过某种方法，在模式空间中到找到一个判决面（此面叫做分类器），使不同类的模式点分别位于判别面的两侧。未知模式的分类可根据它位于判别面的哪一侧来定。若判别面是一个线性超平面，就叫线性分类器。

l例：现有甲状腺病人（记为类1）和正常人（记为类2）各10例，分别测试5项功能指标，测试结果见表a和表b所示。以每一类的前8个样本作为训练集（表a），后2个作为测试集（表b）。用LLM法对其进行判别。

基于主成分对近红外光谱进行discriminationanalysis的方法原理l对建模样品的近红外光谱进行主成分分析，将原来上千个波长点下的近红外吸光值压缩为m个主成分得分来表示；l计算每一类样品在主成分坐标系（即载荷轴、特征向量，又叫主成分光谱）下的类重心坐标；l求每个样品