模式识别课程讲义（李君宝）模式识别-博士.pptVIP

实际应用系统设计 典型的应用系统框架 训练 根据准则函数训练最优权向量W 输入训练样本集x1,x2,…,xN 分类 y=Wx yi=Wxi 测试样本x 输入训练样本特征y1,y2,…,yN 输出分类结果 测试样本特征y §4.1.4 线性判别分类器 【基本框架】 §4.1.4 线性判别分类器 【基本框架】 Title： 1. Introduction （1. 大方向涉及的技术的分析、2. 论文中涉及的技术的分析 3. 论文主要的思路以及创新点 4 全文的结构） 2. Related works (增加论文长度的最好方法) 3. Proposed method 3.1 Motivation and Framework （算法的整体思路与主要流程） 3.2 Agorithm （整体框架涉及的技术思想，主要算法理论（包括公式）） 3.3 Procedure (具体的步骤) 3.4 Discussion （理论上讨论算法可能的优势） 4. Experiments 4.1 Experimental setting （数据来源、数据特性、实验条件、实验数据分组） 4.2 Results （算法思路的分析、算法性能评价） 4.3 Analysis （主要是算法实验结果的分析） 4.4 Practical Applications （通过实验的数据以及结果，可以展望一下提出算法的应用，因为有的期刊要求这个） 5. Conclusion 【模式识别系统组成】 1. 信息的获取：通过测量、采样、量化并用矩阵或向量表示。通常输入对象的信息有三个类型：二维图像（文字、指纹、地图、照片等）、一维波形（脑电图、心电图、机械震动波形等）、物理参量和逻辑值（体检中的温度、血化验结果等） 2. 预处理：去除噪声，加强有用的信息，并对输入测量仪器或其它因素造成的干扰进行处理。 3. 特征提取与选择：为了实现有效的识别分类，要对原始数据进行变换得到最能反映分类本质的特征，此过程为特征提取和选择。 4. 分类决策：在特征空间中用统计方法把被识别对象归为某一类。基本作法是在样本训练集基础上确定某个判决规则，使按这种判决规则对被识别对象进行分类所造成的错误识别率最小或引起的损失最小。 5.后处理：针对决策采取相应的行动。 信息 获取 预处理 特征提取与选择 分类 决策 后处理 模式识别系统组成框图 * 数据采集 特征提取 二次特征 提取与选择 分类 识别 待识 对象 识别结果 数据采集 特征提取 改进分类识别规则 二次特征提取与选择 训练 样本 改进采集 提取方法 改进特征提取与选择 制定改进分类识别规则 人工 干预 正确率 测试 【模式识别系统组成】 第1步：采集具有类别标志的样本集； 第2步：根据实际情况确定一个准则函数J,该函数满足： (1) J是样本集X和w，b的函数； (2) J的值反映分类器的性能，其极值解对应于“最优”决策； 第3步：利用最优化技术求解准则函数的极值解w*和b*。 第4步：建立最优线性判别函数 第5步：对于未知样本 ，计算 ,然后利用决策规则判别类别。 基本步骤： 【线性分类器设计】 基本步骤 基本步骤： 【线性分类器设计】 基本思路 【 Fisher线性判别准则函数】 基本思路 Fisher判别的基本思想：希望投影后的一维数据满足： ?? 两类之间的距离尽可能远； ?? 每一类自身尽可能紧凑。 基本遗传算法（Simple Genetic Algorithms，简称SGA），其遗传进化操作过程简单，容易理解，是其它一些遗传算法的雏形和基础。 【基本遗传算法】 基本遗传算法的组成 （1）编码（产生初始种群） （2）适应度函数 （3）遗传算子（选择、交叉、变异） （4）运行参数 * 【引言】 近邻法优缺点： 1）原理简单、易于实现，在模板数量很大时其错误率低。 2）计算量大，存储量大，要存储的模板很多，每个测试样本要对每个模板计算一次相似度。 前馈网络 Hebb 学习规则 基本思想：两个神经元同时兴奋时它们的连接应加强。 前馈网络典型结构 反馈网络 代表：Hopfield 网络 常用于：联想记忆(associative memory) 用于模式识别：可用于模板匹配、可用于特征选择中的优化问题。 深度学习常用模型 自动编码器（AutoEncoder） 深度信念网络（Deep Belief Networks） 卷积神经网络 ( Convolutional Neural Networks) 深度神经网络学习 算法步骤 1 计算每一个点 的近邻点, 一般采用K 近邻或者 邻域. 2 计算权值 使得把