贝叶斯分类器在样本实验中的讨论.pdfVIP

贝叶斯分类器在样本实验中的讨论 罗 丹 三 _O Dan 贝叶斯分类器是当今计算机模式识别中的一个热 函数来定义我们的判断函数： 点方法，并且广泛的应用于数据挖掘、人脸识别、地 gi(x)=p(xI)P()， l，2，3(3个类别 ) 形评估等很多领域。贝叶斯分类器将分类对象的先验 此函数中P(q)为类 发生的先验概率，p(x1co／) 概根据贝叶斯公式进行计算，计算以后我们可以得到 为类 的类条件概率密度函数。 我们需要的后验概率，在所得到的所有后验概率中， 根据我们的判断准则，要让g(『x)g(x)针对左右 我们选择最大的一个值最为我们计算的 目标的类，计 的J≠f都能够成立，我们就把x放进 类中。 算所得的后验概率也能够说明我们的的对象是在哪一 我们根据假设：类别 ，i=l，2，……，N的类条件 个类中的概率。贝叶斯分类器利用的目标的先验概率， 概率密度函数 (I )，i=l，2，……，N服从正态分布， 经过贝叶斯公式的计算，然后得到 目标的后验概率， 即有 p(xI)～N(i，∑)，那么上式就可以写为 实现 了在错误率最小化上 的优化 。这些年通过不断的 = 唧 改进和完善，分类器也得到了很大的优化，我们把分 (2)1∑ }，i=1,2,3 类器分为四类 ：朴素贝叶斯分类器 (NaiveBayes)、 通过对其取对数 ，可以得到下式 ： 树增强型简单贝叶斯分类器 (TreeAugmentedNaive— x)一 (x )z_I(x一[il1)T+InP(q)一1 2InIE~l一萼nI2(z) Bayes)、增强 的贝叶斯 网络分类器 (BNaugmented 从上可以看出与所属类别没有关系，我们把它从 Nave—Bayes))和无约束贝叶斯网络分类器 (General 式子里去除后不会影响结果。则判别函数＆(x)可简化 BayesianNetwork)。本文对具有多个特征参数的样本 为以下形式 ： 进行了贝叶斯分类，并就实验结果进行了分析和讨论。 gf(x)=一 (x )z7(x ) P()一lnl∑，I 当我们的测试样本含多个特征参数时 (我们使用 通过实验我们从参数估计中选择样本，对样本中 的样本数据中，包含了d=4个参数 )，我们将其正态 的前40个进行计算 ，得到平均值： 分布的概率密度函数做如下的定义 ： 寿 i=1,2,3 唧 叫 iris=load(’C：＼MATLAB7＼work＼模 式 识 别 ＼iris． 在公式里我们可以看出，x=(x1，x2，…xd)是 d txt’)； 维行向量，m=(ml，m2，…，md)是 d维行向量，∑是 N=40；％每组取N=40个样本 dxd维协方差矩阵，∑一t是∑的逆矩阵，l∑I是∑的 ％求第一类样本均值 行列式。经过小错误率的贝叶斯决策，我们用下边的 fori= l：N f0rj=1：4 新疆农业职业技术学院 新疆 昌吉 831100 wl(i，j)=iris(i,j+1)； end