基于贝叶斯决策理论的分类器 .pptx

第二章基于贝叶斯决策理论的分类器Classifiers Based on Bayes Decision Theory;§1 引言 §2 Bayes决策理论 最小错误率的贝叶斯决策 最小风险的贝叶斯决策 §3 Bayes分类器和判别函数 §4 正态分布的Bayes决策 ;§1 引言;⑵另一方面从样本的可分性来看： 当各类模式特征之间有明显的可分性时，可用直线或曲线(面)设计分类器，有较好的效果。 当各类别之间出现混淆现象时，则分类困难。 这时需要采用统计方法，对模式样本的统计特性进行观测，分析属于哪一类的概率最大。此时要按照某种判据分类，如，分类错误发生的概率最小，或在最小风险下进行分类决策等。;⒉ 三个重要的概率和概率密度 先验概率、类条件概率密度函数、后验概率。 ⑴先验概率 P(wi) 由样本的先验知识得到先验概率，可从训练集样本中估算出来。 例如，两类10个训练样本，属于w1为2个，属于w2为8个，则先验概率P(w1) = 0.2，P(w2) = 0.8。 ⑵类条件概率密度函数 p(x|wi) 模式样本x在wi类条件下，出现的 概率密度分布函数。也称 p(x|wi) 为wi 关于x 的似然函数。 在本章中均假设已知上述概率和概率密度函数。;⑶后验概率P(wi|x) 定义为某个样本 x, 属于wi 类的概率, i=1,···,c 。 如果用先验概率P(wi) 来确定待分样本x的类别, 依据显然是非常不充分的，须用类条件概率密度p(x|wi)来修正。 根据样本 x 的先验概率和类条件概率密度函数p(x|wi) 用Bayes公式重新修正 模式样本所属类的概率，称 后验概率P(wi|x)。 3.用Bayes决策理论分类时要求： ①各类总体的概率分布是已知的。 ②要决策的类别数c是一定的。 ;§2 Bayes 决策理论;9、要学生做的事，教职员躬亲共做；要学生学的知识，教职员躬亲共学；要学生守的规则，教职员躬亲共守。6月-216月-21Friday, June 25, 2021 10、阅读一切好书如同和过去最杰出的人谈话。21:49:5321:49:5321:496/25/2021 9:49:53 PM 11、一个好的教师，是一个懂得心理学和教育学的人。6月-2121:49:5321:49Jun-2125-Jun-21 12、要记住，你不仅是教课的教师，也是学生的教育者，生活的导师和道德的引路人。21:49:5321:49:5321:49Friday, June 25, 2021 13、He who seize the right moment, is the right man.谁把握机遇，谁就心想事成。6月-216月-2121:49:5321:49:53June 25, 2021 14、谁要是自己还没有发展培养和教育好，他就不能发展培养和教育别人。25 六月 20219:49:53 下午21:49:536月-21 15、一年之计，莫如树谷；十年之计，莫如树木；终身之计，莫如树人。六月 219:49 下午6月-2121:49June 25, 2021 16、提出一个问题往往比解决一个更重要。因为解决问题也许仅是一个数学上或实验上的技能而已，而提出新的问题，却需要有创造性的想像力，而且标志着科学的真正进步。2021/6/25 21:49:5321:49:5325 June 2021 17、儿童是中心，教育的措施便围绕他们而组织起来。9:49:53 下午9:49 下午21:49:536月-21 2、Our destiny offers not only the cup of despair, but the chalice of opportunity. (Richard Nixon, American President )命运给予我们的不是失望之酒，而是机会之杯。二〇二一年六月十七日2021年6月17日星期四 3、Patience is bitter, but its fruit is sweet. (Jean Jacques Rousseau , French thinker)忍耐是痛苦的，但它的果实是甜蜜的。10:516.17.202110:51