朴素贝叶斯分类器.pptx

分类器 陈世超 什么是分类器？ 分类是数据挖掘的一种非常重要的方法。分类的概念是在已有数据的基础上学会一个分类函数或构造出一个分类模型（即我们通常所说的分类器(Classifier)）。该函数或模型能够把数据库中的数据纪录映射到给定类别中的某一个，从而可以应用于数据预测。总之，分类器是数据挖掘中对样本进行分类的方法的统称. 分类器的构造和实施 分类器的构造和实施大体会经过以下几个步骤： 选定样本（包含正样本和负样本），将所有样本分成训练样本和测试样本两部分。 在训练样本上执行分类器算法，生成分类模型。 在测试样本上执行分类模型，生成预测结果。 根据预测结果，计算必要的评估指标，评估分类模型的性能。 影响分类器准确度的因素 　　(1)、训练集的记录数量。生成器要利用训练集进行学习，因而训练集越大，分类器也就越可靠。然而，训练集越大，生成器构造分类器的时间也就越长。错误率改善情况随训练集规模的增大而降低。 　　(2)、属性的数目。更多的属性数目对于生成器而言意味着要计算更多的组合，使得生成器难度增大，需要的时间也更长。有时随机的关系会将生成器引入歧途，结果可能构造出不够准确的分类器（这在技术上被称为过分拟合）。因此，如果我们通过常识可以确认某个属性与目标无关，则将它从训练集中移走。 　　(3)、属性中的信息。有时生成器不能从属性中获取足够的信息来正确、低错误率地预测标签（如试图根据某人眼睛的颜色来决定他的收入）。加入其他的属性（如职业、每周工作小时数和年龄），可以降低错误率。 　　(4)、待预测记录的分布。如果待预测记录来自不同于训练集中记录的分布，那么错误率有可能很高。比如如果你从包含家用轿车数据的训练集中构造出分类器，那么试图用它来对包含许多运动用车辆的记录进行分类可能没多大用途，因为数据属性值的分布可能是有很大差别的。 对分类器的错误率进行评估的方法 (1) 保留方法(Holdout)：记录集中的一部分（通常是2/3）作为训练集，保留剩余的部分用作测试集。生成器使用2/3 的数据来构造分类器，然后使用这个分类器来对测试集进行分类，得出的错误率就是评估错误率。 　　(2) 交叉纠错方法(Cross validation)：数据集被分成k 个没有交叉数据的子集，所有子集的大小大致相同。生成器训练和测试共k 次；每一次，生成器使用去除一个子集的剩余数据作为训练集，然后在被去除的子集上进行测试。把所有得到的错误率的平均值作为评估错误率。交叉纠错法可以被重复多次(t)，对于一个t 次k 分的交叉纠错法，k *t 个分类器被构造并被评估，这意味着交叉纠错法的时间是分类器构造时间的k *t 倍。增加重复的次数意味着运行时间的增长和错误率评估的改善。我们可以对k 的值进行调整，将它减少到3 或5，这样可以缩短运行时间。然而，减小训练集有可能使评估产生更大的偏差。 贝叶斯分类算法 定义：假设X是类的标号未知的数据样本。设H为某种假定，如数据样本X属于某特定的类C。对于分类问题，我们希望确定P(H|X),即给定观测数据样本X，假定H成立的概率。贝叶斯定理给出了如下的计算P(H|X)的简单有效的方法：P(H|X)=（P(X|H)*P(H)）/P(X) P(H)是先验概率，P(X|H)代表假设H成立的情况下，观察到X的概率。P(H|X)是后验概率。 例如，假定数据样本域由水果组成，用它们的颜色和形状来描述。假定X表示红色和圆的，H表示假定X是苹果，则P（H|X）反应当我们看到X是红色并是圆的的时候，我们对X是苹果的确信程度。 贝叶斯分类对两种数据具有较好的分类效果：一种是完全独立的数据，另一种是函数依赖的数据 简单的说，贝叶斯定理是基于假设的先验概率、给定假设下观察到不同数据的概率，提供了一种计算后验概率的方法。 在人工智能领域，贝叶斯方法是一种非常具有代表性的不确定性知识表示和推理方法。 朴素贝叶斯分类算法 朴素贝叶斯是贝叶斯证据独立的表达形式，属于一种特例。实际应用过程中贝叶斯表达式非常复杂，但是我们希望把它拆分成多个朴素贝叶斯来表达，这样能够快速获得后验概率。 朴素贝叶斯的基本思想：对于给定的待分类项x{a1，a2.......an}，求解在此项中出现的条件下各类别ci出现的概率。哪个P(ci|x)最大，就把此待分类项归属于哪个类别。 朴素贝叶斯分类算法过程 1。每个数据样本用一个n维特征向量X={x1,x2,....xn}表示，分别描述对n个属性A1，A2，.....,An样本的n个度量。 2。假定有m个类C1,C2,....Cm,给定一个位置的数据样本X，分类器将预测X属于具有最高后验概率的类。也就是说，朴素贝叶斯分类将未知的样本分配给类Ci(1=i=m)当且仅当P（Ci|X）P(Cj|X),对任意的j=1,2，。。。m，j