2_贝叶斯决策理论.pptxVIP

第2章 贝叶斯决策理论;2.1 引言;作为统计判别问题的模式分类;但在现实世界中，由许多客观现象的发生，就每一次观察和测量来说，即使在基本条件保持不变的情况下也具有不确定性 只有在大量重复的观察下，其结果才能呈现出某种规律性，即对它们观察到的特征具有统计特性 特征值不是一个确定的向量，而是一个随机向量 此时，只能利用模式集的统计特性来分类，以使分类器发生错误的概率最小;统计识别的基本方法——贝叶斯决策;2.2 几种常用的决策规则;2.2.1 基于最小错误率的贝叶斯决策;贝叶斯决策的出发点;贝叶斯公式;;贝叶斯决策的几种表达形式;两类模式集分类问题 对一大批人进行癌症普查，患癌者以ω1类代表，正常人以ω2类代表 设被试验的人中患有癌症的概率为0.005，即P(ω1)=0.005，当然P(ω2)=1-0.005=0.995 现任意抽取一人，要判断他是否患有癌症。显然，因为P(ω2) P(ω1)，只能说是正常的可能性大。如要进行判断，只能通过化验来实现;设有一种诊断癌症的试验，其结果为“阳性”和“阴性”两种反应 若用这种试验来对一个病人进行诊断，提供的化验结果以模式x代表，这里x为一维特征，且只有x=“阳”和x=“阴”两种结果 ;假设根据临床记录，发现这种方法有以下统计结果 患有癌症的人试验反应为阳性的概率=0.95，即p(x=阳|ω1)=0.95 患有癌症的人试验反应为阴性的概率=0.05，即p(x=阴|ω1)=0.05 正常人试验反应为阳性的概率=0.01，即p(x=阳|ω2)=0.01 正常人试验反应为阴性的概率=0.99，即p(x=阴|ω2)=0.99;应用贝叶斯决策;最小错误率的证明;最小错误率的证明;错误率图示;多类问题的贝叶斯决策;2.2.2 基于最小风险的贝叶斯决策;以决策论的观点;一般决策表;相关的数学表示;条件期望损失;期望风险;最小风险贝叶斯决策;最小风险贝叶斯决策步骤;对两类问题;对两类问题;最小风险贝叶斯决策示例;最小风险贝叶斯决策示例;上一节的例子;最小风险贝叶斯决策的讨论;;2.2.3 限定一类错误率，使另一类错误率最小;条件极值问题;条件极值问题;;似然比——决策规则比较;似然的含义;2.2.4 最小最大决策;以两类情况下的最小风险Bayes决策为例进行讨论 ;;;;由上式可见，当类条件概率密度、损???函数?ij 、类域Ri 取定后，R是P(?1)的线性函数。 考虑P(?1)的各种可能取值情况，为此在区间(0,1)中取若干个不同的P(?1)值，并分别按最小损失准则确定相应的最佳决策类域R1、R2，然后计算出其相应的最小平均损失R*，从而可得最小平均损失R*与先验概率P(?1)的关系曲线。 ;最小最大决策图示;小结：各种情况下的方法选择;2.2.5 分类器、判别函数及决策面;多类问题——最小错误率决策规则;多类问题——判别函数;多类问题——决策面;多类问题——分类器;两类情况——决策规则;两类问题——判别函数;两类问题——决策面;两类问题——分类器;例题:教材23页，套公式;2.3 正态分布时的统计决策;2.3.1 正态分布的定义及性质;正态分布概率密度函数;多元正态分布;协方差矩阵的计算;协方差矩阵的性质;多元正态分布的性质;多元正态分布的性质;多元正态分布的性质;椭圆主轴的确定;设 在超椭球上， 到超椭球中心的距离为 ，求主轴长度即是求其条件极值，构造Lagrange函数;对 的椭圆;多元正态分布的性质;边缘分布和条件分布的正态性 线形变换的正态不变性 通过变换，能使本来相关的随机变量在新的坐标系中独立；便于处理 ;多元正态分布的性质;2.3.2 多元正态下的最小错误率决策;;;;可看作线性分类器;对其，我们用一个二维二类模式例子，设先验概率相等，从几何上表示其关系（不相等的情况请参照教材P32）;;;;对其，我们用一个二维二类模式例子，设先验概率相等，从几何上表示其关系;;二维模式，?1??2的几种情况;例：模式分布如图所示，两类均值向量和协方差矩阵 可用下式估计。;;;9、要学生做的事，教职员躬亲共做；要学生学的知识，教职员躬亲共学；要学生守的规则，教职员躬亲共守。4月-214月-21Tuesday, April 6, 2021 10、阅读一切好书如同和过去最杰出的人谈话。22:05:1922:05:1922:054/6/2021 10:05:19 PM 11、一个好的教师，是一个懂得心理学和教育学的人。4月-2122:05:1922:05Apr-2106-Apr-21 12、要记住，你不仅是教课的教师，也是学生的教育者，生活的导师和道德的引路人。22:05:1922:05:1922:05Tuesday, April 6, 2021 13、He w