模式识别导论.docVIP

PAGE PAGE 9 基于模式识别的个人认识 班级 自动化1002班 姓名 刘永福 学号 1009101016 摘要：本文主要介绍了模式识别的基本理论概念及算法，通过对模式识别的几种算法的概括、分析，推出算法的要求及步骤，实现样本的基本分类要求。主要包括模式识别及模式识别系统的基本概念以及应用领域、线性判别函数的介绍及相关算法的推理证明、非线性判别函数的介绍及相关算法的推理证明。 一．模式识别及模式识别系统 （1）模式识别的基本概念 模式识别是以计算机为工具、各种传感器为信息来源，数据计算与处理为方法，对各种现象、事物、状态等进行准确地分析、判断识别与归类，包括人类在内的生物体的一项基本智能。对于模式和模式识别有“广义”和“狭义”两种解释：广义地说，存在于时间和空间中可观察的事物，如果可以区别它们是否相同或相似，都可以称之为模式。此时，模式识别是生物体(包括人)的基本活动，与感觉、记忆、学习、思维等心理过程紧密联系，是透视人类心理活动的重要窗口之一。从这个角度讲，模式识别是研究生物体如何感知对象的学科，属于认识科学的范畴，是生理学家、心理学家、生物学家和神经生理学家的研究内容，常被称做认知模式识别。具体来说，它是指人们把接收到的有关客观事物或人的刺激信息与他在大脑里已有的知识结构中有关单元的信息进行比较和匹配，从而辨认和确定该刺激信息意义的过程。正是通过认知模式识别，我们才能认识世界，才能辨别出各个物体之间的差别，才能更好地学习和生活。狭义地说，模式是为了能让计算机执行和完成分类识别任务，通过对具体的个别事物进行观测所得到的具有时间和空间分布的信息。把模式所属的类别或同一类中模式的总体称为模式类(或简称为类)。计算机模式识别就是指根据待识别对象的特征或属性，利用以计算机为中心的机器系统，运用一定的分析算法确定对象的类别的学科，是数学家、信息学专家和计算机专家的研究内容。　　因此，模式识别的研究主要集中在认知模式识别和计算机模式识别这两个方面。下面分别对这两方面内容进行详细介绍。 （2）认知模式识别 认知模式识别是认知心理学研究领域中的核心问题之一，是人的一种基本的认知能力或智能，在人的各种活动中都有重要的作用。模式识别可看做一个典型的知觉过程，它依赖于人已有的知识和经验。模式识别过程主要经历分析、比较和决策三个阶段。在认知心理学中，匹配过程可以采用模板匹配理论、原型匹配理论、特征匹配理论和结构优势描述理论来实现。 （3） 计算机模式识别 早期的计算机模式识别将研究重点放在模型的建立上。一个功能完善的计算机模式识别系统除了具有分类识别过程外，通常还应该具有学习过程。图1.给出了一个模式识别系统的原理框图，虚线的上部是分类识别过程，虚线的下部是学习过程。学习阶段是对样本进行特征选择，寻找分类的规律；实现(分类识别)阶段则是根据分类规律对未知样本集进行分类和识别。系统包括数据的采集及预处理、特征提取和选择、学习和训练、分类识别是任何模式识别系统中都具有的主要环节。 图1.模式识别系统的原理框图 （4）模式识别的基本方法及准则 根据是否利用已知类别的训练样本，可将模式识别分为监督模式识别和非监督模式识别。对于不同的分类对象和不同的分类目的，可以采用不同的模式识别方法。根据采用的模式识别方法，可将模式识别分为统计模式识别、结构模式识别、模糊模式识别、神经网络模式识别等。 模式识别的基本准则：奥卡姆剃刀原理 没有免费的午餐定理 丑小鸭定理 （5）模式识别的应用 随着模式识别理论和方法的快速发展，模式识别已在目标识别、生物特征识别（指纹识别、人脸识别）、图像识别、图形识别和故障诊断等很多领域中得到了广泛的应用。 二．线性判别函数 （1）判别函数的基本概念 模式识别的主要作用是判别各个模式的类别属性。判别函数是直接用来对模式样本进行分类的准则函数，也称为判决函数或决策函数。寻找类别之间分界线的方法称为判别函数法，判别函数法的结果提供了一个确定的分界线方程，这个分界线方程就是判别函数。因此，判别函数描述了各类之间的分界线的具体形式。判别函数可以是线性函数，也可以是非线性函数。 (2） 线性判别函数 在一般的d维特征空间中，线性判别函数的表达式为： （2-1） 式中:x是d维特征向量，又称为样本向量；w0是常数且非零，也称为阈值权；w是d维加权向量。x和w分别表示为 在二维欧氏空间中，由线性判别函数所确定的判别边界为一条直线；在三维空间中,为一个平面；当维数超过三时,判别边界称为超平面。通常由线性判别函数确定的判别界面通称为超平面。 (3)感知器算法 a.梯度下降法 在数学分析中，函数J(a)的梯度方向　J(ak)是这样