第三章作业.doc

题1：在一个10类的模式识别问题中，有3类单独满足多类情况1，其余的类别满足多类情况2。问该模式识别问题所需判别函数的最少数目是多少？ 答：将10类问题可看作4类满足多类情况1的问题，可将3类单独满足多类情况1的类找出来，剩下的7类全部划到4类中剩下的一个子类中。再在此子类中，运用多类情况2的判别法则进行分类，此时需要7*（7-1）/2=21个判别函数。故共需要4+21=25个判别函数。 题2：一个三类问题，其判别函数如下： d1(x)=-x1, d2(x)=x1+x2-1, d3(x)=x1-x2-1 设这些函数是在多类情况1条件下确定的，绘出其判别界面和每一个模式类别的区域。 设为多类情况2，并使：d12(x)= d1(x), d13(x)= d2(x), d23(x)= d3(x)。绘出其判别界面和多类情况2的区域。 设d1(x), d2(x)和d3(x)是在多类情况3的条件下确定的，绘出其判别界面和每类的区域。 答：三种情况分别如下图所示： 1． 2． 3． 题3：两类模式，每类包括5个3维不同的模式，且良好分布。如果它们是线性可分的，问权向量至少需要几个系数分量？假如要建立二次的多项式判别函数，又至少需要几个系数分量？（设模式的良好分布不因模式变化而改变。） 答：（1）若是线性可分的，则权向量至少需要个系数分量； （2）若要建立二次的多项式判别函数，则至少需要个系数分量。 题4：用感知器算法求下列模式分类的解向量w: ω1: {(0 0 0)T, (1 0 0)T, (1 0 1)T, (1 1 0)T} ω2: {(0 0 1)T, (0 1 1)T, (0 1 0)T, (1 1 1)T} 解：将属于的训练样本乘以，并写成增广向量的形式 迭代选取，，则迭代过程中权向量变化如下： ；；；；；；；； ；；；收敛 所以最终得到解向量，相应的判别函数为。 题5：用多类感知器算法求下列模式的判别函数： ω1: (-1 -1)T，ω2: (0 0)T，ω3: (1 1)T 解：采用一般化的感知器算法，将模式样本写成增广形式，即 取初始值，取，则有 第一次迭代：以为训练样本，，故 第二次迭代：以为训练样本，，故 第三次迭代：以为训练样本，，故 第四次迭代：以为训练样本，，故 第五次迭代：以为训练样本，，故 第六次迭代：以为训练样本，，故 第七次迭代：以为训练样本，，故 第八次迭代：以为训练样本，，故 由于第六、七、八次迭代中对均以正确分类，故权向量的解为： ，可得三个判别函数为： 题6： 采用梯度法和准则函数，式中实数b〉0，试导出两类模式的分类算法。 解： 其中： 得迭代式： 题7：用LMSE算法求下列模式的解向量： ω1: {(0 0 0)T, (1 0 0)T, (1 0 1)T, (1 1 0)T} ω2: {(0 0 1)T, (0 1 1)T, (0 1 0)T, (1 1 1)T} 解：写出模式的增广矩阵X： = 取和 第一次迭代： 第二次迭代： 第三次迭代： 第四次迭代： 第五次迭代： 第六次迭代： 第七次迭代： 第八次迭代： 第九次迭代： 第十次迭代： 由于，可以认为此时权系数调整完毕，最终的权系数为： 相应的判别函数为： 题8：用二次埃尔米特多项式的势函数算法求解以下模式的分类问题 ω1: {(0 1)T, (0 -1)T} ω2: {(1 0)T, (-1 0)T} 所以，势函数 第一步：取，故 第二步：取，，故 第三步：取，，故 第四步：取，，故 第五步：取，，故 第六步：取，，故 第七步：取，，故 第八步：取，，故 第九步：取，，故 第十步：取，，故 从第七步到第十步的迭代过程中，全部模式都已正确分类，故算法已经收敛于判别函数： 题9：用下列势函数 求解以下模式的分类问题 ω1: {(0 1)T, (0 -1)T} ω2: {(1 0)T, (-1 0)T} 选取，在二维情况下，势函数为 以下为势函数迭代算法： 第一步：取，故 第二步：取，，故 第三步：取，，故 第四步：取，，故 第五步：取，，故 第六步：取，，故 第七步：取，，故 第八步：取，，故 第九步：取，，故 第十步：取，，故 从第七步到第十步的迭代过程中，全部模式都已正确分类，故算法已经收敛于判别函数：