naivebayes朴素贝叶斯 文本分类.pptVIP

朴素贝叶斯算法简介 在分类（classification）问题中，常常需要把一个事物分到某个类别。一个事物具有很多属性，把它的众多属性看做一个向量，即x=(x1,x2,x3,…,xn)，用x这个向量来代表这个事物。 有类别集合 y=（y1,y2,y3,....yn） 分别计算 p(y1|x) p(y2|x) p(y3|x).... p(yn|x), 如果p(yk|x) =max { p(y1|x) p(y2|x) p(y3|x).... p(yn|x) }, x就属于yk类。 如何计算 p(yk|x) 方法：运用贝叶斯公式 p(yk|x)=p(x|yK)*p(yk)/p(x) 在之前已介绍x=(x1,x2,x3,…,xn)，朴素贝叶斯假设 x1,x2,x3,…,xn 是相互独立的(朴素贝叶斯存在的bug) 则有 p( x | yk ) = p( x1,x2,x3,…,xn|yk ) = p( x1 | yk ) *p( x2 | yk ) ..... *p( xn | yk ) (1) (1)式中等式最右边部分的各项是可以通过统计得到的， p(yk)和p(x)也是已知的，这样我们就可以算出p(yk|x) 现在开始进入本文的主旨部分：如何将贝叶斯分类器应用到语义消歧文本分类上来。 1 在文本分类中，假设我们有一个文档d 和一个固定的 类集合C={c1,c2,…,cj} 2 我们把一堆打了标签的文档集合d,c作为训练样本，比如 hello world , computer就是说文本 “hello world” 的类型标签是computer 3 通过训练样本来得到一个映射函数，可以把文本x映射到类型ck中 计算映射函数的多项式模型 设某文档d=(t1,t2,…,tk)，tk是该文档中出现过的单词 ，允许重复 先验概率P(c)= 类c下单词总数/整个训练样本的单词总数 类条件概率P(tk|c)=(类c下单词tk在各个文档中出现过的次数之和+1)/ (类c下单词总数+|V|) V是训练样本的单词表（即抽取单词，单词出现多次，只算一个） |V|则表示训练样本包含多少种单词。 演示文本分类 本程序通过事先从文档输入训练集，产生一个条件概率矩阵，来指导之后的文本分类。在分类结果完成后，用户可以选择分类是否正确，如果分类正确，新输入的结果会作为新的训练加入训练集（昨晚才写完，可能有bug） 这体现了方法论中经验主义的的特点，在不断的分类中 分类器会不断学习，成长。 降低原材料成本 本文反映结束！ 谢谢大家观看！ 同步糖化发酵工艺 ，能耗下降30% naive贝叶斯文本分类 朴素贝叶斯具有容易实现，运行速度快的特点，被广泛使用 实例 5