模式识别习题参考-齐敏-教材第4章.doc

第4章基于统计决策的概率分类法

习题解答

4.1分别写出以下两种情况下，最小错误率贝叶斯决策规那么：

〔1〕两类情况，且。

〔2〕两类情况，且。

解：最小错误率贝叶斯决策规那么为：

假设，那么

两类情况时为：

假设，那么

假设，那么

(1)当，变为：

假设，那么

假设，那么

(2)当时，变为：

假设，那么

假设，那么

4.2假设在某个地区的疾病普查中，正常细胞〔〕和异常细胞〔〕的先验概率分别为，。现有一待识别细胞，其观察值为X，从类概率密度分布曲线上查得，，试对该细胞利用最小错误率贝叶斯决策规那么进行分类。

解1：

〔正常〕

解2：，

〔正常〕

4.3设以下模式类具有正态概率密度函数：

：，，，

：，，，

〔1〕设，求两类模式之间贝叶斯判别界面的方程式。

〔2〕绘出判别界面。

解：(1)由

，

得均值向量和协方差矩阵分别为：

即，可求得。又由于，有

由得判别界面为：

2462

2

4

6

2

4

6

0

x1

x2

解图

解图4.1判别界面

4.4对4.2题中两类细胞的分类问题，除的数据外，假设损失函数的值分别为，，，，试用最小风险贝叶斯决策规那么对细胞进行分类。

解1：当X被判为类时：

当X被判为类时：

=

，〔正常〕

解2：

，〔正常〕

4.5设有两类一维模式，每一类都是正态分布，两类的均值和均方差分别为

，；，

采用〔0－1〕损失函数，且。

〔1〕试绘出两类模式的密度函数曲线，其判别界面位于何处？

〔2〕假设已获得样本：－3，－2，1，3，5，试判断它们各属于哪一类。

解：〔1〕两类问题的最小风险贝叶斯决策规那么为

假设，那么

假设，那么

式中；。

当(0-1)损失且时：。由可知，判别界面由下式决定

考虑到一维时及条件，，，上式等价为

即判别界面位于处。密度函数曲线及判别界面如解图4.2所示。

〔2〕对样本x=－3：由图可见p(x=-3|ω1)p(x=-3|ω2)，故-3属于ω1类。

同理，样本x=－2属于ω1类。

样本x=1处于判别界面上，任意判决。

样本x=3属于ω2类。

样本x=5属于ω2类。

02

0

2

1

-3

x

p(x|ωi)

4

3

-1

-2

-4

5

6

p(x|ω1)

p(x|ω2)

判别界面

解图4.2密度函数曲线及判别界面

4.6有两个一维模式类，其概率密度函数如图4.20所示。

〔1〕假设用〔0－1〕损失函数且先验概率相等，试导出其贝叶斯决策的判别函数。

〔2〕求出判别界面的位置。

〔3〕样本：0，2.5，0.5，2，1.5，判断它们各属于哪一类。

图4.20

图4.20两个一维模式类的概率密度函数

0123

x

1

解：〔1〕经过〔2，0〕和〔0，1〕点，设直线方程为。

，

经过〔1，0〕和〔3，1〕点，设直线方程为。

，

两类问题的最小风险贝叶斯决策规那么为

假设，那么

假设，那么

式中；。

当(0-1)损失且时：。对一维模式的决策规那么为：

判别函数：(0x3)

〔2〕判别界面为：即：。

〔3〕x=0时：

，，有，故。

同理得：，，

处于判别界面，任意判决。

4.7设两类模式和具有正态分布密度函数，，，，。假设用〔0－1〕损失函数，试写出对数似然比决策规那么。

解：两类问题最小风险贝叶斯决策规那么似然比形式为

假设，那么

式中；。

对正态分布：

在条件下：

设，那么

(0-1)损失时，在条件下，。

似然比判决不等式为：1

两边取自然对数得：0

0

故对数似然比决策规那么为

假设0，那么

4.8服从正态分布的两类训练样本集分别为：

：，，，，

：，，，

试问属于哪一类？

解：正态分布最小错误率贝叶斯决策的判别函数为：

经计算有：，

，

由和得

将代入上式得

故类。

4.9一个两类识别问题，模式向量为一维。随机抽取类的6个样本：

，，，，，

试选用正态窗函数估计，即求估计式。

解：选用正态窗函数：

∵x是一维的，，其中选。

上式用图形表示是6个分别以3.2，3.6，3，6，2.5，1.1为中心的正态曲线，而那么是这些曲线之和，如解图4.3所示。由图看出，每个样本对估计的奉献与样本间的距离有关，样本越多，越准确。

解图4.3

解图4.3曲线

1

2

3

4

5

6

x6

x5

x3

x1

x2

x4

x

4.10选择适宜的势函数计算以下模式的判别函数：

：，；：，

解：设。选用埃尔米特多项式构成二维线性势函数。埃尔米特多项式的前两项为：

可构成

势函数

迭代算法为：

，假设。

设初值，，开始迭代。

(1)，

(2)，

(3)，

(4)，

(5)，

(6)，

(7)，

(8)，

(9)，

此时，对全部训练样本完成了一次无错分的迭代，故