第7讲贝叶斯决策论.pptx

第7讲 贝叶斯决策论;主要内容;7.1引言;（鲑鱼）;使用长度作为特征;使用光泽度作为特征;判别边界;使用光泽度和宽度特征的散布图;复杂模型;最优折中;;图7-1假定的类条件概率密度函数图，显示了模式处于类别wi时的观测某个特定特征值x的概率密度。如果x代表鱼的长度，那么这两条曲线可描述两种鱼的长度区别。概率函数已归一化。因此每条曲线下的面积为1。;假设已知先验概率P(wj)，也知道条件概率密度p(x|wj)，且j=1,2。通过观察和测量，发现某个特征（一条鱼的光泽度）为x。则联合概率密度可写成 p(wj, x)=P(wj|x)p(x)=p(x|wj)P(wj) 于是可得贝叶斯公式： P(wj|x)=p(x|wj)P(wj)/p(x) 在两类问题下：;;4）决策规则--最小化误差概率条件下的贝叶斯决策规则 决策规则：如果某个观测值x使得P(w1|x)比P(w2|x)大，则判断类别是w1，反之，则判断w2。 误差概率： ;7.2贝叶斯决策论-连续特征;令{w1,…,wc}表示有限个c个类别集，{α1,…,αa}表示有限的a种可能采取的行为集，风险函数λ(αi|wj)描述类别状态为wj时采取行动αi的风险。特征向量x表示一个d维随机变量。令p(x|wj)表示x的状态条件概率密度函数，则后验概率可表示成：;如果观测到某个特定模式x并且采取行为αi，如果真实的类别为wj，通过定义将有损失λ(αi|wj)，则相应损失为;两类分类问题;;7.3最小误差率分类;;7.4分类器、判别函数及判定面;;;;;7.5正态密度;7.5.1单变量密度函数;;7.5.2多元密度函数;图7-8 特征空间中的一个线性变换将一个任意正态分布变换成另一个正态分布。;图7-9从一个以均值μ为中心的云团内的二维高斯分布中取出的样本。椭圆显示了等概率密度的高斯分布轨迹。;称为从x到μ的Mahalanobis距离或马氏距离。;7.6正态分布的判别函数;情况1;可得等价的线性判别函数;超平面此方程可写成;情况2;;;;情况3;图7-13在方差不相等的一维高斯分布情况下，可能产生并非单连通的判决区域，如P(w1)=P(w2)时这里所示的情况;;;图7-16 4个正态的判决区域。尽管对于类别数这么少的情况，其判决区域的形状也是相当复杂的;;可求得相应参数为;;9、春去春又回，新桃换旧符。在那桃花盛开的地方，在这醉人芬芳的季节，愿你生活像春天一样阳光，心情像桃花一样美丽，日子像???子一样甜蜜。1月-211月-21Tuesday, January 19, 2021 10、人的志向通常和他们的能力成正比例。23:12:1423:12:1423:121/19/2021 11:12:14 PM 11、夫学须志也，才须学也，非学无以广才，非志无以成学。1月-2123:12:1423:12Jan-2119-Jan-21 12、越是无能的人，越喜欢挑剔别人的错儿。23:12:1423:12:1423:12Tuesday, January 19, 2021 13、志不立，天下无可成之事。1月-211月-2123:12:1423:12:14January 19, 2021 14、Thank you very much for taking me with you on that splendid outing to London. It was the first time that I had seen the Tower or any of the other famous sights. If Id gone alone, I couldnt have seen nearly as much, because I wouldnt have known my way about. 。19 一月 202111:12:14 下午23:12:141月-21 15、会当凌绝顶，一览众山小。一月 2111:12 下午1月-2123:12January 19, 2021 16、如果一个人不知道他要驶向哪头，那么任何风都不是顺风。2021/1/19 23:12:1423:12:1419 January 2021 17、一个人如果不到最高峰，他就没有片刻的安宁，他也就不会感到生命的恬静和光荣。11:12:14 下午11:12 下午23:12:141月-21