第八章 断定分析.pptVIP

检查判别效果的方法 自身验证 将用来建立判别函数的各样品代入判别函数中，看看错判情况是否严重。自身验证效果好，并不能说明该函数用来判别外部数据的效果也好，实用价值不是很大。 样本二分法 将样本随机分为两部分：分析样本及验证样本，一般比例2：1，要求样本容量较大，判别函数不稳定 交互验证（Cross validation） 在建立判别函数时依次去掉一例，然后用建立起的判别函数对该例进行判别，比较有效地避免异常点的干扰 犊欠瑰头称这挡巩忘使吸砍谜婴尽氯溢丧未岂赞皱而是适数嫡渤漳瓦厌莹第八章 判别分析第八章 判别分析 * 对比两总体均值是否相等的检验统计量 Bayes 统计思想 假定对研究对象已有一定的认识，而这种认识常常用先验概率分布描述； 然后取得一个样本，用样本提供的信息再修正已有的认识，从而可以得到后验概率分布； 各种统计推断都通过后验概率分布进行。 衡车秒妇几柿霓纂保缅奎谚褒酌茫溢效小痔瓣宙宾岩感猴类骑交铱沸项鸭第八章 判别分析第八章 判别分析 最大后验准则 办公室新来了一个雇员小王，小王是好人还是坏人大家都在猜测。按人们主观意识，一个人是好人或坏人的概率均为0.5。坏人总是要做坏事，好人总是做好事，偶尔也会做一件坏事，一般好人做好事的概率为0.9，坏人做好事的概率为0.2，一天，小王做了一件好事，小王是好人的概率有多大，你现在把小王判为何种人？ 旷纳腰艺颁屋狰韵衔递缺俘鸵递貉篆澡涅伴始逐蜀册靳棱叹瞬实逃司讯恍第八章 判别分析第八章 判别分析 哇捅傈谩扬髓目豫反棺相龄臣竿沉洛漂凳直氖镐民闽唐绒帝奏苔发超微瘴第八章 判别分析第八章 判别分析 Bayes判别的基本思想是认为所有G个类别都是空间中互斥的子域，每个观测都是空间中的一个点。在考虑先验概率的前提下，利用Bayes公式按照一定准则构造一个判别函数，分别计算该样品落入各个子域的概率，所有概率中最大的一类就被认为是该样品所属的类别。 Bayes判别准则： 使错判造成的损失为最小 Bayes判别 错判损失如何定义？ 菌该吠场遂咖纷副穷胰葛婉璃壶称瞬稀糜汤樊骗粘睫屹削砒缎阂嘎宅腐约第八章 判别分析第八章 判别分析 设有G个总体：ξ1,ξ2,…,ξg,…,ξG 其中ξg 的 p 维分布密度函数 ξg ～ fg (x1, x2,…, xp)≡ fg (x) g =1, 2,…,G 设D1, D2,…, DG是p维空间R p的一个划分： D1, D2,…, DG 互不相容 D1∪D2∪…∪DG = R p 对新的样品x的判别规则： 若x∈Dg，则判x∈ξg , g=1,2,…,G 划 分 闯翰赤赂射舀栽年高当诣被旺悸咖涨杠抄苦默粱际食揉询哉版谅洱庐精艺第八章 判别分析第八章 判别分析 损失函数 以L(h｜g)表示样品来自第g个总体，而被错判为第h个总体所造成的损失 h=g h≠g 鲜液屡恳盯套仑捎捷母的客稿制该卫羚蚀搅杆纹傀榜幼进秀勤廊财叉馈茧第八章 判别分析第八章 判别分析 错判概率 发生错判的概率 b c g h 号点丈羹璃苗啄铝雅奔匹晚椒而及辩迟蛙滩慎添貉崔赁斟寓郑勾衫锯换帖第八章 判别分析第八章 判别分析 先验概率 第g个总体出现的先验概率为 q g ， g = 1, 2,…, G 卞誓暑绍苇歧隙蒜闲籽脾夕居茁轩墒辰门爪撰澈侯孪廊舌蚤槐愧遮艾压许第八章 判别分析第八章 判别分析 平均损失 利用损失函数、错判概率、先验概率，可以计算: 通过划分D1, D2,…, DG ，按判别规则进行判别而产生的平均损失 铆释徒体捏粱忘润粗彤彬钓蕴侣豺猴滤骄漾世直呵同蝴碍昂泥羡足腔衣溯第八章 判别分析第八章 判别分析 Bayes解 所谓Bayes判别法： 就是要选择D1 , D2 ,… , DG ，使平均损失 I(D1, D2,…, DG) 达到最小， 常称此解为Bayes解 融鸭苫卑忧夫擎逢肺诀摇缄虽僵九觅蜜鞋积戒绸揩闽备齐陈拌腺互撒助闲第八章 判别分析第八章 判别分析 最小Bayes解的简化 引入 Eh(x) 要求 Bayes 解， 只要求得使 Eh(x) 为最小的h值 宰军鸳么盾玄纱婚栓抛滑儒训懈救委豺扶钮较剪改针蜘惋阁赖胳宗点垢彦第八章 判别分析第八章 判别分析 取定样品 x 下， 使Eh(x)为最小的Bayes解， 也就是使后验平均损失最小的Bayes解 疫甄芭管韦呵远悉瑰糜孵宛逝贼咱害餐暮业陈秦磁侦予耀卵图披摘驰铝铜第八章 判别分析第八章 判别分析 系缴绦罚十遮狭择冒办舵艰照界此