模式识别实验指导书2011.docxVIP

2007年3月 信 息 工 程 学 院 模式织别 实 验 指 导 书 王文华，徐蔚然编著 目 录 实验课概况 1 实验一、Bayes分类器设计 2 实验二、基于Fisher准则线性分类器设计 5 实验三、基于感知函数准则线性分类器设计 10 实验四、近邻法分类器设计 12 实验五、动态聚类 21 实验课概况 课程名称：模式识别 适应专业：信息工程、自动化、信息安全、信息科学、数字媒体艺术 实验学时：8 开科学期：5学期 一、实验的性质、任务和基本要求 ( 一 ) 实验课的性质 《模式识别》实验课是一门非独立的实验课，是同学对模式识别理论内容进行充分的理解 的基础上，根据相应的原理，设计实验内容，完成实验任务，是理论知识实践化的方式， 利于学生更好的吸收，领悟模式识别的原理与应用，培养学生的动手实践的能力。 (二) 实验课的基本要求 1、 理解模式识别的基本概念 2、 掌握各种算法的流程，以及相应的优缺点。 3、 会使用相应的模式识别分类器等算法处理实验问题。 二、 实验的分配情况 序号 实验内容 学时 选作 1 Bayes分类器算法 2 必做 2 Fisher线性分类器设计， 2 二选一 3 感知器设计 2 4 近邻法 4 二选一 5 动态聚类 4 实验一、Bayes 分类器设计 1.1实验类型： 基础型： Bayes 分类器设计 1 . 2实验目的： 本实验旨在让同学对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论 算法有一个深刻地认识，理解二类分类器的设计原理。 1 . 3实验条件： matlab 软件 1 .4实验原理： 最小风险贝叶斯决策可按下列步骤进行： (1)在已知P(a),P(X|a),i=1, …,c 及给出待识别的X 的情况下，根据贝叶斯公式 计算出后验概率： , X (2)利用计算出的后验概率及决策表，按下面的公式计算出采取a?,i=1,…,a的条件风险 (3)对(2)中得到的a 个条件风险值R(a? |X),i=1, …,a 进行比较，找出使其条件风险最小 的决策ag, 即 则a 就是最小风险贝叶斯决策。 1 .5实验内容： 假定某个局部区域细胞识别中正常()和非正常 (w?) 两类先验概率分别为 正常状态： P(?)=0.9; 异常状态： P(o?)=0.1。 现有一系列待观察的细胞，其观察值为x: -3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531 -2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682 -1.5799 -1.4885 -0.7431 -0.4221 -1.1186 4.2532 已知先验概率是的曲线如下图： p(xla?)p(x1w?) 果进行分类。 类条件概率分布正态分布分别为(-2,0.25)(2,4)试对观察的结 1.6 实验要求： 1) 用 matlab 完成分类器的设计，要求程序相应语句有说明文字，要求有子程序 的调用过程。 2) 根据例子画出后验概率的分布曲线以及分类的结果示意图。 3) 如果是最小风险贝叶斯决策，决策表如下： 最小风险贝叶斯决策表： 状态 决策 ? O? O a 1 0 6 α 2 1 0 请重新设计程序，画出相应的后验概率的分布曲线和分类结果，并比较两个结果。 实验二、基于Fisher 准则线性分类器设计 2.1实验类型： 设计型：线性分类器设计 (Fisher 准则) 2.2实验目的： 本实验旨在让同学进一步了解分类器的设计概念，能够根据自己的设计对线性分类器有更 深刻地认识，理解Fisher 准则方法确定最佳线性分界面方法的原理，以及Lagrande 乘子求解 的原理。 2.3实验条件： matlab 软件 2.4实验原理： 线性判别函数的一般形式可表示成 g(X)=W?X+w? 其中 根据Fisher 选择投影方向W 的原则，即使原样本向量在该方向上的投影能兼顾类间分布尽 可能分开，类内样本投影尽可能密集的要求，用以评价投影方向W 的函数为： W?=Sw(m?-m?) 上面的公式是使用Fisher 准则求最佳法线向量的解，该式比较重要。另外，该式这种形式 的运算，我们称为线性变换，其中m? m? 式一个向量， 是Sw 的逆矩阵，如m? m? 是 d 维，Sw和S 都是d×d 维，得到的W”也是一个d 维的向量。 向量W“就是使Fisher 准则函数J,(W) 达极大值的