模式识别Chp1.pptVIP

模 式 识 别 2009-2010学年第二学期 黄景涛 Tel：Email: hjt.haust@ Lab: 10-825 模式识别 模式识别 模式识别 课程概况 学时：40＝30(理论)＋10(实验) 基础知识：统计学、概率论、线性代数（矩阵计算） 教材及参考书目 边肇祺, 张学工. 模式识别(第2版), 北京:清华大学出版社,2000. Richard O. Duda,Peter E. Hart,David G. Pattern Classification, 2nd Edition. Duda, Hart, Stork著，李宏东等译，《模式分类》，机械工业出版社，中信出版社，2003 考核方式 平时：30％(考勤、实验、作业) 期末考试：70％ 要 求 缺课达1/3或作业缺1/3或实验缺1/3者，取消考试资格 作业及实验要独立完成，禁止COPY 主要内容 绪论 贝叶斯决策理论 概率密度函数的估计 线性判别函数 非线性判别函数 特征选择与提取 非监督学习方法 模糊模式识别方法 发展近况 第一章 绪论 模式识别和模式的概念 模式识别系统 模式识别的一些基本问题 模式识别的应用 模式识别和模式的概念 Pattern recognition is the act of taking in raw data and taking an action based on the category of the pattern. Pattern recognition is the study of how machines can observe the environment, learn to distinguish patterns of interest from their background, and make sound and reasonable decisions about the categories of the patterns.(Anil K. Jain) Most research in pattern recognition is about methods for supervised learning and unsupervised learning. 模式(pattern) :存在于时间，空间中可观察的事物，具有时间或空间分布的信息。 模式类：模式所属的类别或同一类中模式的总体，一般简称“模式”；其中的个体简称样本 模式识别(Pattern Recognition) : 用计算机实现人对各种事物或现象的分析,描述,判断,识别。 1929年 G. Tauschek发明阅读机 ，能够阅读0-9的数字。 30年代 Fisher提出统计分类理论,奠定了统计模式识别的基础。因此，在60～70年代，统计模式识别发展很快，但由于被识别的模式愈来愈复杂，特征也愈多，就出现“维数灾难”。随着计算机运算速度的迅猛发展，这个问题得到一定克服。目前，统计模式识别仍是模式识别的主要理论。 50年代 Noam Chemsky 提出形式语言理论，在此基础上，美籍华人付京荪 提出句法结构模式识别。 60年代 L.A.Zadeh提出了模糊集理论，模糊模式识别理论得到了较广泛的应用。 80年代 Hopfield提出神经元网络模型理论。近些年人工神经元网络在模式识别和人工智能上得到较广泛的应用。 90年代 小样本学习理论，支持向量机也受到了很大的重视。 模式识别系统 信息的获取：是通过传感器，将光或声音等信息转化为电信息。信息可以是二维的图象如文字，图象等；可以是一维的波形如声波，心电图，脑电图；也可以是物理量与逻辑值等等。 预处理：包括A/D, 二值化，图象的平滑，变换，增强，恢复，滤波等, 主要指图象处理。 特征抽取和选择：在模式识别中，需要进行特征的抽取和选择，例如，一幅64*64的图象可以得到4096个数据，这种在测量空间的原始数据通过变换获得在特征空间最能反映分类本质的特征。这就是特征提取和选择的过程。 分类器设计：分类器设计的主要功能是通过训练确定判决规则，使按此类判决规则分类时，错误率最低。把这些判决规则建成判决规则标准库,这一过程称为分类器设计。 分类决策：在特征空间中对被识别对象进行分类。 模式识别的基本问题 模式(样本)表示方法 模式类的紧致性 相似与分类 模式识别的基本问题 3. 几何表示 一维表示 X1=1.5 X2=3 二维表示 X1=(x1,x2)T=(1,2)T X2=(x1,x2)T=(2,1)T 三维表示 X1=