模式识别实验二参照.pdfVIP

实验二 用身高和 / 或体重数据进行性别分类 姓名： 姓名： 学号： 学号： 班级： 班级： 一、实验目的和要求 （一）加深对非参数估计的认识， 和对它与参数估计在适用情况、 估计结果方面 的异同的理解。 （二）掌握直接设计线性分类器的方法， 并与基于概率密度估计的贝叶斯分类器 进行比较。 （三）掌握留一法估计错误率的方法。 二、实验内容 （一）在第一次实验中， 挑选一次用身高 ( 身高与体重 ) 作为特征， 并且先验概率 分别为男生 0.5 ，女生 0.5 的情况。改用 Parzen 窗法或者 kn 近邻法估计概率密 度函数，得出贝叶斯分类器，对测试样本进行测试，比较与参数估计 ( 最大似然 法 ) 基础上得到的分类器和分类性能的差别。 （二）同时采用身高和体重数据作为特征，用 Fisher 线性判别方法求分类器， 将该分类器应用到训练和测试样本， 考察训练和测试错误情况。 将训练样本和求 得的决策边界画到图上， 同时把以往用 Bayes方法求得的分类器也画到图上， 比 较结果的异同。 （三）选择上述 Bayes 分类器和 Fisher 分类器 ，用留一法在训练集上估计错误 率，与在测试集上得到的错误率进行比较。 三、原理简述及程序框图 （一）挑选身高 ( 身高与体重 ) 为特征，选择先验概率为男生 0.5 女生 0.5 的一组 1. 用 Parzen 窗法来求概率密度函数，再用贝叶斯分类器进行分类。 1 1 2 Parzen 窗法，窗函数为 (u) exp u ，我们选用正态函数窗 ，窗宽为 2 2 d hN h / N （h 是调节的参量， N是样本个数） VN hN ，（d 表示维度）。因为 N 区域是一维的，所以体积为 ? 1 1 x xi 。 V h 。Parzen 公式为 P x N n N N i 1 V h N N N1 1 1 x xi 因此，女生的条件概率密度为 p 1 N1 i 1 VN 1 hn1 N2