哈工大模式识别课件.pptVIP

模式识别授课教师：刘家锋

第一章绪论

一、模式识别的概念什么是模式识别？模式识别研究的内容？

二、模式识别的应用工业用途:产品质量检验，设备故障检测，智能机器人的感知系统；商业用途:钱币的自动识伪，信函的自动分拣，电话信息查询，声控拨号；医学用途:对心电、脑电、CT等信号进行处理和识别，自动进行疾病的诊断；安全领域:生理特征鉴别(Biometrics)，网上电子商务的身份确认，对公安对象的刑侦和鉴别；

二、模式识别的应用军事领域:巡航导弹的景物识别，战斗单元的敌我识别；办公自动化:文字识别技术和声音识别技术；数据挖掘:数据分析；网络应用:文本分类。

三、相关领域人工智能:ArtificialIntelligence(AI)模式识别:PatternRecognition(PR)机器学习:MachineLearning人工神经网络:NeuralNetwork(NN)计算机视觉:ComputerVision(CV)

四、模式识别的过程

什么是特征？

什么是特征？

什么是特征？

特征抽取

特征抽取

特征的分布

特征的分布

五、模式识别系统分类训练

六、模式识别问题的描述给定一个训练样本的特征矢量集合:分别属于c个类别:设计出一个分类器，能够对未知类别样本x进行分类

分类方法

模式识别方法的分类有监督学习（有教师学习）:预先已知训练样本集中每个样本的类别标号；无监督学习（无教师学习）:预先不知道训练样本集中每个样本的类别标号；

七、参考书目RichardDuda,PeterHart,DavidStork,PatternClassification,2ndedition,JohnWiley,2001《模式分类》,机械工业出版社,RichardO.Duda《模式识别》（第二版）,清华大学出版社,边肇祺,张学工；

期刊IEEETransactiononPatternAnalysisandMachineIntelligence,PAMI；PatternRecognition；PatternRecognitionLetter；模式识别与人工智能；讲义下载: 22 用户名:prai 密码:prai

第二章贝叶斯决策理论

2.1最小错误率准则

各种概率及其关系先验概率:后验概率:类条件概率:贝叶斯公式:

两个类别,一维特征

两类问题的错误率观察到特征x时作出判别的错误率:两类问题最小错误率判别准则:

多类问题最小错误率判别x属于ωi的错误率:判别准则为:则:

贝叶斯最小错误率准则Bayes判别准则:,则

贝叶斯分类器的错误率估计

例2.1对一大批人进行癌症普查，设ω1类代表患癌症，ω2类代表正常人。已知先验概率: 以一个化验结果作为特征x:{阳性，阴性}，患癌症的人和正常人化验结果为阳性的概率分别为: 现有一人化验结果为阳性，问此人是否患癌症？

2.2最小平均风险准则贝叶斯分

类器问题的提出有c个类别ω1,ω2,...,ωc,将ωi类的样本判别为ωj类的代价为λij。将未知模式x判别为ωj类的平均风险为:

最小平均风险判别准则利用Bayes公式，构造判别函数:

贝叶斯分类器

例2.2对一大批人进行癌症普查，设ω1类代表患癌症，ω2类代表正常人。已知先验概率: 以一个化验结果作为特征x:{阳性，阴性}，患癌症的人和正常人化验结果为阳性的概率分别为: 判别代价：λ11=0,λ22=0,λ12=100,λ21=25 现有一人化验结果为阳性，问此人是否患癌症？

2.3贝叶斯分类器的其它版本先验概率P(ωi)未知:极小化极大准则；约束一定错误率（风险）:Neyman-Pearson准则；某些特征缺失的决策:连续出现的模式之间统计相关的决策:

2.4正态分布的贝叶斯分类器单变量正态分布密度函数（高斯分布）:

多元正态分布函数

正态分布的判别函数贝叶斯判别函数可以写成对数形式:类条件概率密度函数为正态分布时:

情况一:判别函数可以写成:此分类器称为距离分类器，判别函数可以用待识模式x与类别均值μi之间的距离表示:

情况二:判别函数可以写成:可以简化为: 称为线性分类器

线性分类器两类问题，1维特征，先验概率相同时:

线性分类器两类问题，高维特征，先验概率相同时:

线性分类器两类问题，1维特征，先验概率不同时:

线性分类器两类问题，高维特征，先验概率不同时:

情况三:任意判别函数可以写成:分类界面为2次曲线（面）

二次分类曲线

二次分类曲面

第三章