模式识别-朴素贝叶斯课程设计报告.docVIP

模 式 识 别 报 告 ---朴素贝叶斯分类器 一、简介及原理 贝叶斯分类器的分类原理是通过某对象的先验概率，利用贝叶斯公式计算出其后验概率，即该对象属于某一类的概率，选择具有最大后验概率的类作为该对象所属的类。贝叶斯分类器是用于分类的贝叶斯网络。该网络中应包含类结点C，其中C 的取值来自于类集合( c1 , c2 , ... , cm)，还包含一组结点X = ( X1 , X2 , ... , Xn)，表示用于分类的特征。对于贝叶斯网络分类器，若某一待分类的样本D，其分类特征值为x = ( x1 , x2 , ... , x n) ，则样本D 属于类别ci 的概率P( C = ci | X1 = x1 , X2 = x 2 , ... , Xn = x n) ，( i = 1 ,2 , ... , m) 应满足下式： 　　P( C = ci | X = x) = Max{ P( C = c1 | X = x) , P( C = c2 | X = x ) , ... , P( C = cm | X = x ) } 　　而由贝叶斯公式： P( C = ci | X = x) = P( X = x | C = ci) * P( C = ci) / P( X = x) 假设给定了如下训练样本数据，要求根据给定的天气状况判断对PlayTennis这个请求的回答是Yes还是No。 根据样本数据集提供了14个训练样本，结合朴素贝叶斯分类器来分类下面的新实例： (Outlook = sunny,Temprature = cool,Humidity = high,Wind = strong) 对此新实例预测目标概念PlayTennis的目标值(yes或no). Temperature=cool|vj) P(Humidity=high|vj)P(wind=strong|vj) 可以得到： P(PlayTennis =yes) = 9/14 = 0.64,P(PlayTennis=no)=5/14 = 0.36 P(Wind=Stong| PlayTennis =yes)=3/9=0.33,p(Wind=Stong| PlayTennis =no)=3/5 = 0.6 其他数据类似可得，代入后得到： P(yes)P(Sunny|yes)P(Cool|yes)P(high|yes)P(Strong|yes) = 0.0053 P(no)P(Sunny|no)P(Cool|no)P(high|no)P(Strong|no)=0.0206 因此应该分类到no这一类中。 由所给的测试数据，程序运行结果如下： 有着坚实的数学基础，以及稳定的分类效率。同时，朴素贝叶斯模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。理论上，模型与其他分类方法相比具有最小的误差率。但是对公式和模型的构造原理掌握的不是很透彻，需要经常参考公式和资料，如其中对先验概率和后验概率的计算和应用等，以后学习中应当加强注意。 参考文献 《 数据挖掘经典算法基于朴素贝叶斯的分类方法研究