基于QPSO的朴素贝叶斯分类方法研讨.pdfVIP

中国电机工程学会第十届青年学术会议 ·吉林 基于 QPSO 的朴素贝叶斯分类方法研究 张洪业 李红彪 杨杰明 （东北电力大学 信息工程学院 吉林省 吉林市 132012） 摘要 : 建立在严格的数学理论基础上的朴素贝叶斯分类方法由于其高效的计算性能以及精确的分类结果而得到广泛的 应用.但由于朴素贝叶斯分类假定类条件独立，使得所选数据集的条件属性集在预处理时必须进行属性约简，如果处理不当， 就会造成分类的不准确。文章分别对在训练集上随机选取的属性子集构建朴素贝叶斯分类器，并利用量子粒子群算法对分类 效果进行择优操作。实验证明其分类效果优于传统的朴素贝叶斯分类方法。 关键词：量子粒子群优化；数据挖掘；贝叶斯分类 1 引言 数据挖掘(Data Mining，DM)是从大量的、不完全的、有噪声的、模糊的、随机的数据中，通过设置 一定的学习算法提取隐含的、事先未知的、潜在有用的信息的处理过程。分类作为数据挖掘的一个重要分 支，其目的是提取描述重要数据类的模型及对未来数据的趋势作出预测或分类。 朴素贝叶斯分类是一种简单而高效的分类方法，其特点为速度快、准确率高。但是由于在实际应用时， 需要进行属性约简，而这一过程可能会影响到分类效果。同时，朴素贝叶斯分类模型所需估计的参数很少， 对缺失数据不太敏感，算法也比较简单。当属性相关性较小时，NBC模型的性能最为良好。 本文将全局搜索的量子粒子群算法应用到朴素贝叶斯分类当中，最终取得了更佳的分类效果。 2 PSO算法 PSO(particle swarm optimization)是一种基于迭代的优化工具。该算法将种群中每个个体看作是n 维搜索空间中一个没有质量和体积的微粒，并且在搜索空间中以一定的速度飞行，同时该飞行速度由个体 的飞行经验和群体飞行经验进行动态调整.设微粒群体规模为n（n大小的选择没有明确的公式依据，一般 采用经验法。N值过大会增加算法计算的复杂性，反之达不到寻最优值的效果），其中每个微粒i(i = 1,2,…,n)在n维空间中的坐标位置可表示为xi (xi1 ,xi 2 ,⋅⋅⋅,xin ) ;微粒i的速度定义为每次迭代中微粒移 动的距离用v (v ,v ,⋅⋅⋅,v ) 表示;p (p ,p ,⋅⋅⋅,p ) 表示当前微粒所经历的最好位置（即具有最好的适 i i1 i2 in id i1 i2 in 应值），其与当前微粒位置之差被用于该微粒的方向性随机运动设定；p gd (p g 1,p g 2 ,⋅⋅⋅,p gn ) 表示群体中 所有微粒经历过的最好位置，其与当前微粒的位置之差被用于改变当前微粒向全局最优值运动的增量分 量;ω为惯性权重，ω取大值可使算法具有较强的全局搜索能力,ω 取小值则算法倾向于局部搜索;c1 和 c 为加速常数，即学习因子，通常在[0，2]之间取值，一般取2;rand () ～U(0,1)和rand () ～U(0,1)为 2 1 2 两个相互独立的随机函数。于是微粒i在第d(d=1,2,…,n)维子空间中状态更新方程如式(1)所示：  v ωv =+c rand ()( p −x ) +c rand ()( p −x ) id id 1 1 id id 2 2 gd id  （1） x x =+v