初探贝叶斯方法第一小组.pptVIP

贝叶斯算法的一些改进措施 “贝叶斯方法”的一些改进措施 尽量分析研究对象的一些的可靠性指标 尽量搜集综合各种验前经验（比如使用该领域专家的经验。） 用以上两种方式来整理和推导出参数的先验分布。 不以简单片段任意构建复杂结构，取而代之的是一个由综合的逻辑程序和贝 叶斯网络组成的程序。 巧妙地设计算法来缩小搜索空间。（比如使用启发式搜索简化计算；比如 计算含缺失属性的数据项与完整属性的相关度；） …… “贝叶斯方法”的一些应用例子 自然语言有二义性 机器翻译 各大搜索引擎与搜狗拼音输入法均有“拼写纠错”功能 “reng gogn zhi nen” “ren gong zhi neng” 云松 （现代）计算机 銮仙玉骨寒， 松虬雪友繁。 大千收眼底， 斯调不同凡。 无题 （现代）计算机 白沙平舟夜涛声， 春日晓露日相逢。 朱楼寒雨离歌泪， 不堪断肠雨乘风。 计算机文艺创作 对于不少流行歌曲，我们可以在听出上句的时候猜出下句。 贝叶斯图像识别的核心理念可以描述成： Analysis by Synthesis （通过合成来分析）。 1、视觉系统提取图形的边角特征； 2、使用这些边角特征自底向上地激活高层的抽象概念（比如是 E 还是 F 还是等号）； 3、使用自顶向下的验证来比较到底哪个概念最佳地解释了观察到的图像； 初探“贝叶斯方法” 在当时，贝叶斯不一定已经意识到式子里包含了深刻的思想。 但后来，贝叶斯方法席卷了概率论并被应用到了许多问题领域。 Tomas Bayes(1701-1761) “贝叶斯定理”简介 “贝叶斯方法”的一些应用领域 “贝叶斯方法”存在一些的问题 “贝叶斯方法”的一些改进措施 “贝叶斯方法”的一些应用例子 结论与展望 大纲 贝叶斯定理简介 从条件概率推导贝叶斯定理 根据条件概率的定义。在事件B发生的条件下事件A发生的概率是 同样地，在事件A发生的条件下事件B发生的概率是 联立（1）和（2），我们可以发现 若P(B)是非零的，在上式的兩邊同除以P(B)后可以得到贝叶斯定理 //寻根问祖 式子（1） 式子（2） A B A∩B P(B∩A)=P(AB) = P(B|A).P(A) P(B∩A) = P(A|B).P(B) 贝叶斯定理（Bayes theorem）简介 = 全概率公式： 由文式图可得： 联立 贝叶斯公式： 逆向概率（又叫后验概率），反映了试验之后对各种原因发生的可能性大小的新认识。 “贝叶斯公式”又被称为“逆概率公式” 正向概率往往是对以往经验的总结（所以正向概率又叫先验概率。即先前已经验证过） 比如：抛一枚硬币一次，正面朝上与反面朝上的概率是1/2。 比如：歌词“三分天注定，七分靠打拼。爱拼才会赢。” P(“爱拼”使你赢)=0.7; P(“天注定”使你赢)=0.3; 水果糖问题 两个一模一样的碗，一号碗有30颗水果糖和10颗巧克力糖， 二号碗有水果糖和巧克力糖各20颗。现在随机选择一个碗， 从中摸出一颗糖，发现是水果糖。请问这颗水果糖来自一号 碗的概率有多大？ 设： 设H1为“取到1号碗”。 设H2为“取到2号碗”。 由于这两个碗是一样的，所以P(H1)=P(H2)=0.5。 也就是说，没有做实验之前，这两个碗被选中的概率相同。 我们把这个概率就叫做先验概率。 ---------------------------------------------------------------------------------------------------------------------- 再假定，E为“取到水果糖”，所以问题就变成了在已知E的情况下，来自一号碗的概率有多大，即求P(H1|E)。我们把这个概率叫做后验概率，即在E事件发生之后，对P(H1) 的修正。后验概率实际上就是条件概率。 P(水果糖来自1号碗|取到水果糖) 在不断地计算后验概率的平均值 后，原因和结果的关系会越变越明朗。 P(B|A)/P(B)被称为可能性函数（Likelyhood）。这是一个 调整因子。它使得预估概率更接近真实概率。 P(B|A)/P(B)1 ---削弱了先验概率。事件A的可能性变小。 P(B|A)/P(B)=1 ---不影响先验概率。无助于判断事件A的可能性。 P(B|A