模式识别郝旷荣Chap2(MSSB-HKR).pptVIP

2.2.4 判别函数、决策面与分类器设计 分类器设计问题主要集中在判别函数的选择，使用最小风险决策时合理的损失函数的确定。此外贝叶斯决策理论都是基于统计分布确定的情况下的计算，而统计参数的确定恰恰是最困难的问题。 Bayes决策理论其实很简单，对特征空间任一点X只要能确定落在该点的样本X属于哪一种类的可能性大，就将这点划分到这类的决策域。 问题是后验概率P(ωi|X)要通过先验概率和类概率密度函数计算。显然具体的决策域划分与样本的概率分布有关。 结合正态分布概率密度函数进行讨论，在讨论结束时我们会发现从中可以得到不少启示。　 小结 分类器设计两种最基本的原则是关键。错分率最小即完全以减少分类错误为原则和基于最小风险的贝叶斯决策的原理。弄清后验概率等几个概念，为什么用后验概率大小来判断就能实现错误率最小？　　 “风险”与“损失”的概念也很重要，通过它们把错分类造成的影响考虑进来了。　　a.风险系数 是怎么定义的？　　b.为什么对某个样本作第i个决策的风险要按(2-13)或(2-14)等式计算？　　c.如果 比 大得多，那么分类器设计希望避免哪一类错分类？ 大则表示这种错误造成的损失大，希望这一类错误尽可能减少。 小结 判别函数：分类所用的计算式的特点，是比较所计算数值大小。这种函数就称为判别函数，函数的自变量是样本X，故一般表示成gi(X)，如果 则称特征空间的这一点X是第i类的决策域。由gi(X)占主导地位的区域称为第i类的决策域，我们将它表示成Ri， 决策面方程：如果第i类决策域Ri与第j类决策域相邻，则它们之间有边界。在边界上有gi(X)=gj(X),该式是一个方程式，称为决策面方程。 §2.3 正态分布时的 统计决策 2.3.1正态分布概率密度函数的定义与性质 一、单变量正态分布 单变量正态分布概率密度函数定义为 （2-29） 式中μ表示随机变量x的数学期望，σ2为其方差，而σ则称为标准差。 （2-30） （2-31） 首先正态分布是指一个随机实数度量值在整个实数域上的分布规律。因此它属于概率密度函数类，不是我们所讨论的先验概率P(ωi)，也不是后验概率P(ωi|X)，而是p(x|ωi)。式(2-29)用p(x)表示，是因为通用公式，如具体到我们的情况，可将(2-29)具体化，则　　 　　 其中ωi, σi分别是对(2-29)中ω及σ的具体化。　　 2.3.1正态分布概率密度函数的定义与性质 多元正态分布1.概率密度函数　　多元是指样本以多个变量来描述，或具有多个属性，在此一般用d维特征向量表示，X＝[x1，…，xd]T。d维特征向量的正态分布用下式表示 （2-32） 其中μ是X的均值向量，也是d维，　　μ＝E{X}＝[μ1，μ2，…，μd]T (2-33)　　Σ是d×d维协方差矩阵，而Σ－1是Σ的逆矩阵，|Σ|是Σ的行列式　　Σ＝E{(X－μ)(X－μ)T} (2-34)　　Σ是非负矩阵，在此我们只考虑正定阵，即|Σ|＞0。 2.3.1正态分布概率密度函数的定义与性质 2.2.1 基于最小错误率的贝叶斯决策 例利用贝叶斯原理，可以建立简单的肤色模型，并用来从图像中提取手部、脸部肤色，进而得到人的身体姿势。 使用的方法是：　　1．先在一副训练图象中手工描绘出肤色区域，　　2．然后统计每种颜色点在肤色区域中出现的次数和在区域外出现的次数的比值，作为这种颜色是肤色的概率　　 2.2.1 基于最小错误率的贝叶斯决策 3．这样就得到了一张查找表，表中的每个元素是这个点是肤色的概率。我们就得到了一个点是不是肤色的概率分布。 4．再加上域值限制之后，认为只有概率大于一定域值的才是肤色。这样，对图中任意一点，查找表中对应的概率，就可以很快的知道它是不是肤色了。 2.2.2 基于最小风险的贝叶斯决策 基于最小错误概率的决策方法的改进