模式识别前沿讲座.pptx

模式识别前沿讲座;1. 模式识别讨论主题（PR研究什么？） 模式识别研究主要在两方面: 研究生物体（包括人）是如何感知对象的，属于认知科学的范畴;是生理学家、心理学家、生物学家和神经生理学家的研究内容。 在给定的任务下，如何用计算机实现模式识别的理论和方法。是数学家、信息学专家和计算机科学工作者最为关注的内容。;定 义(Definition ) 借助计算机，就人类对外部世界某一特定环境中的客体、过程和现象的识别功能(包括视觉、听觉、触觉、判断等)进行自动模拟的科学技术。 对语音波形、地震波、心电图、脑电图、图片、照片、文字、符号、生物传感器等对象的具体模式进行辨识和分类。;第1页/共73页;第1页/共73页;第1页/共73页;第1页/共73页;第9页/共73页;第10页/共73页;第11页/共73页;第12页/共73页;第13页/共73页;第14页/共73页;第15页/共73页;第16页/共73页;第17页/共73页;手掌静脉;手掌掌纹;第20页/共73页;Sensors;基于语音：;4 模式识别方法分类 统计模式识别(statistic pattern recognition) 统计模式识别(statistic pattern recognition)的基本原理是：有相似性的样本在模式空间中互相接近，并形成“ 集团”，即“物以类聚”。 统计模式识别的主要方法有：判别函数 法，近邻分类法，非线性映射法，特征分析法，主因子分析法等。 决策理论方法 通过分析具体识别对象决定选取何种特征,特征抽取后可第2进3页/行共73分页分类，即从特征空;(3) 句法方法 又称结构方法或语言学方法。其基本思想是把一个模式描述为较简单的子模式的组合，子模式又可描述为更简单的子模式的组合，最终得到一个树形的结构描述，在底层的最简单的子模式称为模式基元。;My doctor problem!;良性钙化点;研究目标;肿瘤目标分割（如何将学习问题引入半交互图象分割问题中？）;3 模式识别怎么做？ 线性与非线性分类 线性分类;SVDD原理;二 现代模式识别技术（经典与现代）;1 基于Bayes决策理论;2 感知器算法(The Perceptron Algorithm);Fig.1.5 SVM分类;决策函数;Non-Separable classes(线性不可分类);在XOR问题中，由RBF推广线性分类器形成的决策线 a) 初始空间；b)转换空间;4 Nearest neighbor (近邻分类);第39页/共73页;第40页/共73页;修??的近邻分类器;第42页/共73页;5 线性鉴别分析;第44页/共73页;白话：结构风险既要考虑模型的复杂度又要考虑训练误差。;第47页/共73页;简单比复杂好;统计模式识别的主要方法: Bayes 决策 概率密度估计（参数方法和非参数方法）特征提取（变换）和选择 聚类分析 在 20 世纪 60 年代以前就已经成型。 由于统计方法不能表示和分析模式的结构，70年代以后结构和句法模式识别方法受到重视。但是，句法模式识别中的基元提取和文法推断（学习）问题直到现在还没有很好地解决，因而没有太多的实际应用。;[1] 20 世纪 80 年代Back-propagation (BP) 算法的重新发现和成功应用推动了人工神经网络研究和应用的热潮。神经网络方法与统计方法相比具有不依赖概率模型、参数自学习、泛化性能良好等优点，至今仍在模式识别中广泛应用。然而，神经网络的设计和实现依赖于经验，泛化性能不能确保最优。 [2]90 年代支持向量机(SVM)的提出吸引了模式识别界对统计学习理论和核方法(Kernel methods)的极大兴趣。与神经网络相比，支持向量机的优点是通过优化一个泛化误差界限自动确定一个最优的分类器结构，从而具有更好的泛化性能。而核函数的引入使很多传统的统计方法从线性空间推广到高维非线性空间，提高了表示和判别能力。;[3 ]结合多个分类器的方法从 90 年代前期开始在模式识别界盛行，后来受到模式识别界和机器学习界的共同重视。多分类器结合可以克服单个分类器的性能不足，有效提高分类的泛化性能。这个方向的主要研究问题有两个：给定一组分类器的最佳融合和具有互补性的分类器组的设计。其中一种方法，Boosting，现已得到广泛应用，被认为是性能最好的分类方法。（一个不行多个如何呢？三个臭皮匠顶个诸葛亮）;进入 21 世纪，模式识别研究的特点 [1] Bayes 学习理论新发展-基于图表示的Bayes分类,模型参数同时调整。 [2]传统的问题新解，如概率密度估计、特征选择、聚类等不断受到新的关注，新的方法或改进/混合的方法不断提出。 模式识别领域和机器学习领域的相互渗透越来越明显，如特征提取和选 择、分类、聚类、半监督 学习等问题成为二