模式识别问题概述.pptVIP

第1页，共29页，星期日，2025年，2月5日内容一、模式识别的基本概念二、模式识别系统的基本设计方法三、有监督学习于无监督学习四、模式识别的应用五、贝叶斯决策理论概述第2页，共29页，星期日，2025年，2月5日一、模式识别的基本概念1、什么是模式识别？简单地说，模式识别就是对观察到的物理对象进行识别与分类。模式识别无所不在，我们每一天都在进行着成功的模式识别。一个简单的例子是根据声音识别汽车的类别。再如读书看报。2、如何让机器自动进行模式识别？模式识别的定义：根据对某个物理对象的观测信息，利用计算机对该物理对象进行分类，从而给出该物理对象所属的类别。在这里，“模式”就是指存储于计算机内的有关物理对象的观测信息，它可以是图像、声音、温度、压力等任何可以测量的观测量。为了让机器自动完成模式识别任务，我们需要（1）数据采集设备（2）模式识别算法。一个简单的问题：如何让机器可以认字？第3页，共29页，星期日，2025年，2月5日3、模式识别研究的意义对外界事物的感知与识别是智能的基础。如果我们能够很好的解决模式识别问题，就能够制造出更高级的智能系统。一个例子是手写体识别。另一个例子是自动驾驶系统。模式识别在计算机学科中的地位：模式识别是计算机科学与控制科学的一个交叉学科，是智能系统及智能信息处理的一个重要基础。第4页，共29页，星期日，2025年，2月5日二、模式识别系统的基本设计方法模式识别问题的一个例子：设计一个自动分类系统，实现对两种不同类别鱼类的自动分类(salmon,seabass)。结合该例子，我们讨论以下几个问题（1）观测量的获取（2）特征提取（3）分类器的训练（4）分类器的测试（5）分类器的设计过程（6）分类器设计过程中需要考虑的一些关键因素。第5页，共29页，星期日，2025年，2月5日1、观测量的获取（图像获取）：首先通过摄像机获取图像，然后采用图像分割技术，得到单个物理对象的图像。第6页，共29页，星期日，2025年，2月5日2、特征提取：抽取关键特征，并根据这些特征对物理对象进行分类。

长度特征:根据长度进行分类

salmon一般较短，seabass一般较长第7页，共29页，星期日，2025年，2月5日亮度特征：根据亮度进行分类

salmon一般较暗，seabass一般较亮第8页，共29页，星期日，2025年，2月5日特征向量：提取一组特征，构成特征向量，根据特征向量进行分类。

特征向量=（亮度、宽度）；x=(x1,x2);

特征空间:特征向量所有可能的取值的集合

样本:(x,y),x:该样本对应的特征向量

y:该样本的类别，y=+1(salmon),或y=-1(bass)第9页，共29页，星期日，2025年，2月5日在特征空间中构造一个分类面，对两类样本进行分类。第10页，共29页，星期日，2025年，2月5日3、分类器的训练：根据已有的一组样本（样本集），构造一个判决函数d(x)，根据d(x)实现对两类样本的正确分类。我们希望d(x)尽可能满足：对于第一类样本(x,y),y=1:d(x)0或sign(d(x))=1对于第二类样本(x,y),y=-1:d(x)0或sign(d(x))=-1其中，d(x)=0称为分类器的分类面。这一过程称为分类器的训练过程，在训练过程中使用的样本，称为训练样本。由训练样本构成的集合，称为训练集。判决函数d(x)可以采用多种不同的函数模型，常用模型有线性模型、多项式模型、神经网络模型等。在本例中我们可以采用线性模型d(x)=w.x+b.因此，分类器训练的任务就是，根据训练样本确定线性分类器的权系数w及偏差项b。采用所得分类器对训练样本进行分类时的错误率，称为训练误差。第11页，共29页，星期日，2025年，2月5日4、分类器的测试：在分类器训练过程结束后，需要采用一些新的样本对分类器的分类性能进行测试，这些样本称为测试样本。由测试样本构成的集合称为测试集。测试过程：对于测试样本(x,y),y=1,如果d(x)0则分类正确。对于测试样本(x,y),y=-1,如果d(x)0则产生一个分类错误。分类器对测试样本集进行分类时的错误率，称为测试误差。训练误差、测试误差统称为经验误差。分类器优化的原则应该是使测试误差近可能小。第12页，共29页，星期日，2025年，2月5日分类