模式识别实验指教书2011.docVIP

信 息 工 程 学 院 模式识别 实 验 指 导 书 王文华，徐蔚然编著 2007年3月 目 录 实验课概况 1 实验一、Bayes分类器设计 2 实验二、基于Fisher准则线性分类器设计 5 实验三、基于感知函数准则线性分类器设计 10 实验四、近邻法分类器设计 12 实验五、动态聚类 21 实验课概况 课程名称：模式识别 适应专业：信息工程、自动化、信息安全、信息科学、数字媒体艺术 实验学时：8 开科学期：5学期 实验的性质、任务和基本要求 实验课的性质 《模式识别》实验课是一门非独立的实验课，是同学对模式识别理论内容进行充分的理解的基础上，根据相应的原理，设计实验内容，完成实验任务，是理论知识实践化的方式，利于学生更好的吸收，领悟模式识别的原理与应用，培养学生的动手实践的能力。 实验课的基本要求 理解模式识别的基本概念 掌握各种算法的流程，以及相应的优缺点。 会使用相应的模式识别分类器等算法处理实验问题。 实验的分配情况 序号 实验内容 学时 选作 1 Bayes分类器算法 2 必做 2 Fisher线性分类器设计， 2 二选一 3 感知器设计 2 4 近邻法 4 二选一 5 动态聚类 4 实验一、Bayes分类器设计 1.1实验类型： 基础型：Bayes分类器设计 1.2实验目的： 本实验旨在让同学对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识，理解二类分类器的设计原理。 1.3实验条件： matlab软件 1.4实验原理： 最小风险贝叶斯决策可按下列步骤进行：　　(1)在已知，，i=1,…，c及给出待识别的的情况下，根据贝叶斯公式计算出后验概率：　　　　j=1,…，x 　　(2)利用计算出的后验概率及决策表，按下面的公式计算出采取,i=1,…，a的条件风险　　,i=1,2,…,a　　(3)对(2)中得到的a个条件风险值,i=1,…，a进行比较，找出使其条件风险最小的决策，即　　则就是最小风险贝叶斯决策。 1.5实验内容： 假定某个局部区域细胞识别中正常（）和非正常（）两类先验概率分别为 正常状态：P（）=0.9； 异常状态：P（）=0.1。 现有一系列待观察的细胞，其观察值为： -3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531 -2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682 -1.5799 -1.4885 -0.7431 -0.4221 -1.1186 4.2532 已知先验概率是的曲线如下图： 类条件概率分布正态分布分别为（-2，0.25）（2,4）试对观察的结果进行分类。 1.6 实验要求： 用matlab完成分类器的设计，要求程序相应语句有说明文字，要求有子程序的调用过程。 根据例子画出后验概率的分布曲线以及分类的结果示意图。 如果是最小风险贝叶斯决策，决策表如下： 最小风险贝叶斯决策表： 状态 决策 α1 0 6 α2 1 0 请重新设计程序，画出相应的后验概率的分布曲线和分类结果,并比较两个结果。 实验二、基于Fisher准则线性分类器设计 2.1实验类型： 设计型：线性分类器设计（Fisher准则） 2.2实验目的： 本实验旨在让同学进一步了解分类器的设计概念，能够根据自己的设计对线性分类器有更深刻地认识，理解Fisher准则方法确定最佳线性分界面方法的原理，以及Lagrande乘子求解的原理。 2.3实验条件： matlab软件 2.4实验原理： 线性判别函数的一般形式可表示成　　 其中 根据Fisher选择投影方向W的原则，即使原样本向量在该方向上的投影能兼顾类间分布尽可能分开，类内样本投影尽可能密集的要求，用以评价投影方向W的函数为： 　　 　　上面的公式是使用Fisher准则求最佳法线向量的解，该式比较重要。另外，该式这种形式的运算，我们称为线性变换，其中式一个向量，是的逆矩阵，如是d维，和都是d×d维，得到的也是一个d维的向量。　　向量就是使Fisher准则函数达极大值的解，也就是按Fisher准则将d维X空间投影到一维Y空间的最佳投影方向，该向量的各分量值是对原d维特征向量求加权和的权值。 以上讨论了线性判别函数加权向量W的确定方法，并讨论了使Fisher准则函数极大的d维向量 的计算方法，但是判别函数中的另一项尚未确定，一般可采用以下几种方法确定如 　　　 或者