最优风险贝叶斯决策策略探究.pptxVIP

最小风险的Bayes决议;风险的表示;决议空间的相关符号;最小风险的Bayes决议规则;最小风险的Bayes决议规则环节;例;计算后验概率：P(ω1|X)＝0.818,P(ω2|X)＝0.182;决议规则的进一步探讨;最小错误决议和最小风险决议;3.3Bayes分类器和鉴别函数;鉴别函数和决议面方程;最小错误概率决议;最小风险决议;Bayes分类器;决议界;决议界;二类分类器;例;后验概率：;风险评估;分别写出两种情况的决议面方程;前面介绍了在普通的概率统计分布情况下的统计决议理论，这一节我们要讨论最常用的正态分布情况

在模式识别中，正态分布假设是对各种随机变量使用得最普遍的假设

这主要有两方面的原因：

1）正态分布在数学上比较简便

2）正态分布在物理上的合理性;数学上简便性正态分布是数学上最简单的一种分布。它的某些特殊情况揭示了统计鉴别方法中许多主要的性质

在模式识别技术的研究中，需要用训练样本集来设计分类器，还需用测试样本集来检验分类器的分类效果，并对不同的分类器的性能进行比较

用正态分布模型描述训练样本集与测试样本集在数学上实现起来也比较方便;物理上的合理性假如同一类样本在特征空间内确实较集中地分布在其类均值的附近，远离均值处罚布较少，那么普通情况下以正态分布模型近似往往是比较合理的

人们也往往因数学分析复杂程度考虑而不得不采用这种模型，当然使用时应注意成果是否合理或关注其可接受的程度;单变量正态分布;正态分布描述了一种随机实变量在整个实数域上的分布规律

因此它属于概率密度函数类，不是我们所讨论的先验概率P(ωj)，也不是后验概率P(ωj|X)，而是p(x|ωj);多元是指样本以多个变量来描述，或含有多个属性，普通用d维特征向量表示，X＝[x1，…，xd]T。d维特征向量的正态分布用下式表示;一种向量或矩阵的期望是由其元素的期望组成的;图示为一种二维正态密度的示意图，假如把等概率密度点画出来，它们就是一族同心的椭圆;参数和对分布含有决定性：从正态总体中抽取的样本落在一种密集区域里

这个区域的中心由均值向量决定

区域的形状由协方差矩阵决定

等密度点的轨迹为一超椭???面（可证明）

且超椭球面的主轴方向由的特征向量决定，主轴的长度与相应的特征值成正比;把这个超椭球的中心平移到坐标原点，超椭球的方程变为

设X在超椭球上，X到超椭球中心的距离为

求超椭球主轴的问题是一种求条件极值的问题，结构Lagrange函数：

可得超椭球主轴的必要条件：

;

为向量X到均值向量的Mahalanobis距离(马哈诺比斯，马氏距）的平方

等概率密度点的轨迹是一种到均值向量的Mahalanobis距离为

常数的超椭球;3.不相关?独立;多元正态分布下的最小错误率贝叶斯决议及其鉴别函数和决议面;三种不同情况的探讨：;假如c个类的先验概率都相似，式中项可忽视

这时最小错误概率的Bayes决议法则可论述为：若要对模式X分类，只要测量出从待分类模式向量X到每一类均值向量的欧氏距离，然后把X归到距离最近的那个均值向量所属的类别即可

假如c个类的先验概率不相等，则表明距离的平方必须用方差规范化后减去再用以分类

在实际应用时，能够不计算欧氏距离：把

展开后，可得鉴别函数：;

决议面由线性方程决定，即

式中：

;

此时鉴别函数变为：

1）若各类的先验概率相等，则也能够忽视，这时决议法则能够这么描述：