贝叶斯新闻分类实战项目详解.pdfVIP

贝叶斯新闻分类实战项⽬详解 贝叶斯新闻分类 ⼿动反爬⾍： 知识梳理不易，请尊重劳动成果，⽂章仅发布在CSDN⽹站上，在其他⽹站看到该博⽂均属于未经作者授权的恶意爬取信息 如若转载，请标明出处，谢谢！ 前⾔ 关于贝叶斯要解决的问题（贝叶斯⽅法源于他⽣前为解决“逆概”问题写的⼀篇⽂章）： 正向概率：假设袋⾥⾯有N个⽩球，M个⿊球，伸⼿进去摸⼀把，摸出⿊球的概率有多 逆向概率：如果我们事先并不知道袋⼦⾥⾯⿊⽩球的⽐例，⽽是闭着眼睛摸出⼀个（或者好⼏个球），观察这些取出来球的颜⾊后，那么我 们可以就此对袋⼦⾥⾯的⿊⽩球的⽐例作出什么样的推测 还是举个具体的例⼦进⾏理解逆向概率，如下 假设学校男⽣占60%，⼥⽣占40%，男⽣总是喜欢穿长裤，⽽⼥⽣则是⼀半穿长裤⼀半穿裙⼦ 正向概率：随机选取⼀个学⽣，其穿长裤的概率和穿裙⼦的概率有多⼤？ 逆向概率：迎⾯⾛来了⼀个穿长裤的学⽣，你只看见其穿的是长裤，⽽⽆法确定其性别，那么可以推断其是⼥⽣的概率有多⼤？ 贝叶斯⽅法要解决的问题就是上⾯举例中的逆向概率的求解 ⼀、贝叶斯公式推导 ⾸先是假设条件 ： ① 学校⾥⾯的总⼈数是U个 ； ② 穿长裤的（男⽣）：U∗P(Boy)∗P(Pants∣Boy) P(Boy)是男⽣的概率 = 60% P(Pants∣Boy)是条件概率，即在Boy这个条件下穿长裤的概率有多⼤，这⾥是100% ③穿长裤的（⼥⽣）：U∗P(Girl)∗P(Pants∣Girl) P(Girl)是⼥⽣的概率 = 40% P(Pants∣Girl)是条件概率，即在Girl这个条件下穿长裤的概率有多⼤，这⾥就是50% 求解问题：穿长裤的⼈⾥⾯有多少⼥⽣的概率？ （分⼦为穿长裤的⼥⽣，分母就是穿长裤的总数） 穿长裤的总数 ：U∗P(Boy)∗P(Pants∣Boy)+U∗P(Girl)∗P(Pants∣Girl) 穿长裤的⼥⽣概率：P(Girl∣Pants)= U∗P(Girl)∗P(Pants∣Girl) 穿长裤的总数 即完整的式⼦如下 ： U∗P(Girl)∗P(Pants∣Girl) P(Girl ∣Pants)= U∗P(Boy)∗P(Pants∣Boy)+U∗P(Girl)∗P(Pants∣Girl) 看到这⾥有点⾼等数学的感觉，不要慌，都是很容易理解⼏个基础概念 U 接着对式⼦进⾏化简操作，发现等式右边分⼦和分母都含有学校学⽣总数 ，因此可以进⾏消去，也就是说是和总⼈数⽆关 P(Girl) ∗ P(Pants∣Girl) P(Girl ∣ Pants) = P(Boy) ∗ P(Pants∣Boy) + P(Girl) ∗ P(Pants∣Girl) 可以仔细看⼀下分母，其实上就是男⽣穿长裤的概率与⼥⽣穿长裤的概率，由于没有第三种性别，所以两者之和就是总的概率，也就是穿长 P(Pants) P(Pants, Girl) 裤的概率 ，⽽分⼦就是⼥⽣穿长裤的概率，这⾥写作 P(Pants,Girl) 最终化简为：P(Girl ∣ Pants) = P(Pants) 进⾏推⼴，就是假定⼥⽣为事件A，所有穿长裤的为事件B，于是就有了穿长裤的⼈⾥⾯有多少⼥⽣的概率： P(A) ∗ P(B∣A) 贝叶斯公式：P(A∣B) = P(B) 下⾯就介绍⼀下贝叶斯公式应⽤的⼏个⼩实例，⽅便进⾏理解 ⼆、拼写纠正实例 问题：当我们看到⽤户输⼊了⼀个不在字典中的单词，我们需要猜测⼀下 “这个家伙到底真正想输⼊的单词是什么？” 相当于计算 P(我们猜测他想输⼊的单词 | 他实际输⼊的单词)，⽐