哈工大模式识别-绪论讲解.ppt

§1.3 模式识别的一些基本问题　 一、学习 二、模式的紧致性 三、相似性度量 一、学习 人的学习过程 在日常生活中进行模式识别的活动从学习过程中掌握了很强的分辨事物的能力。 机器的学习过程 使用包含各种类别的训练样本 勾画出各类事物在特征空间分布的规律性 确定使用分类的具体数学公式及其参数 例：两类训练样本圆形分布 分类函数类型的确定：圆形的分布与线性方程。一般来说，决定使用什么类型的分类函数往往是人为决定的。 数学式子中参数的确定 是一种学习过程。如果当前采用的分类函数会造成分类错误，利用错误提供应如何纠错的信息，纠正分类函数。 分类器设计：求解优化问题的过程 模式识别中的学习与训练是从训练样本提供的数据中找出某种数学式子的最优解，这个最优解使分类器得到一组参数，按这种参数设计的分类器使人们设计的某种准则达到极值。 分类器参数的选择或者学习过程得到的结果取决于设计者选择什么样的准则函数。不同准则函数的最优解对应不同的学习结果，得到性能不同的分类器。 二、模式的紧致性 分类器设计难易程度与模式在特征空间的分布方式有密切关系 临界点：处于两类的边界上的点为临界点。 内点：非临界点。 临界点与内点 紧致集，具有下列性质： (1)临界点的数量与总的点数相比很少。 (2)集合中任意两个内点可以用光滑线连接，在该连线上的点也属于这个集合。 (3)每个内点都有一个足够大的邻域，在该领域中只包含同一集合中的点。 形象说法：不要混迭，分界面干净利索 影响数据紧致性的因素 数据本身特性 ----- 如手写体数字 数据描述方法 -----印刷体数字的网格表示 特征提取：改善数据紧致性 许多问题在测量空间上不满足紧致性。 若可分：通过某种变换，使其在特征空间中可分。具有紧致性 特征提取的任务就是找到这样一种变换。 三、相似性度量 在特征空间中用特征向量描述样本的属性，就是把相似性度量用距度离量表示。 同类样本应具有聚类性，或紧致性好 不同类别样本应在特征空间中显示出具有较大的距离。 统计模式识别各种方法实际上都是直接或间接以距离度量为基础的。 两个样本xi ，xj之间的相似度量满足以下要求： ① 应为非负值 ② 样本本身相似性度量应最大 ③ 度量应满足对称性 ④ 在满足紧致性的条件下，相似性应该是点间距离的单调函数 常用的距离度量 欧氏距离 差的绝对值总和 向量夹角 模式识别发展历史 1929年 G. Tauschek发明阅读机 ，能够阅读0-9的数字。 30年代 Fisher提出统计分类理论,奠定了统计模式识别的基础。因此，在60～70年代，统计模式识别发展很快，但由于被识别的模式愈来愈复杂，特征也愈多，就出现“维数灾难”。但由于计算机运算速度的迅猛发展，这个问题得到一定克服。统计模式识别仍是模式识别的主要理论。 模式识别发展历史 50年代 Noam Chemsky 提出形式语言理论 美籍华人付京荪 提出句法结构模式识别。 60年代 L.A.Zadeh提出了模糊集理论，模糊模式识别理论得到了较广泛的应用。 80年代 Hopfield提出神经元网络模型理论。近些年人工神经元网络在模式识别和人工智能上得到较广泛的应用。 90年代 小样本学习理论，支持向量机也受到了很大的重视。 关于模式识别的国内、国际学术组织 1973年 IEEE发起了第一次关于模式识别的国际会议“ICPR”，成立了国际模式识别协会---“IAPR”，每2年召开一次国际学术会议。 1977年 IEEE的计算机学会成立了模式分析与机器智能（PAMI）委员会，每2年召开一次模式识别与图象处理学术会议。 国内的组织有电子学会，通信学会，自动化协会，中文信息学会….。 模式识别的应用领域 机器视觉(指纹识别,人脸识别) 字符识别 语音识别 医疗诊断 （雷达、可见光、红外等）目标识别（雷达、可见光、红外等 电子侦察对对抗：频率、带宽、脉宽等识别 遥感图像分类 信息安全：网络入侵检测 模式识别基础 宿 富 林 哈尔滨工业大学 电子与信息工程学院 信息工程系主楼1201 第 一 章 绪 论 §1.1 模式识别和模式的概念 日常生活中的模式识别 陌生、但密切相关 语音、图像、气味 寻找教室、查找资料、医生看病 见惯不惊 模式识别是六十年代初迅速发展的一门学科。它所研究的理论和方法在很多科学和技术领域中得到了广泛的重视，推动了人工智能技术及图像处理、信号处理、计算机视觉、多媒体技术等多种学科的发展，扩大了计算机应用的领域。 什么是模式识别？ 模式识别：Pattern Recognition 通俗一点讲就是机器识别，计算机识别，或机器自动识别