模式识别与机器学习期末考查试题及参考答案.docVIP

模式识别与机器学习期末考查 试 卷 研究生姓名： 入学年份： 导师姓名： 试题1：简述模式识别与机器学习研究的共同问题和各自的研究侧重点。 答：（1）模式识别是研究用计算机来实现人类的模式识别能力的一门学科，是指对表征事物或现象的各种形式的信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程。主要集中在两方面一是研究生物体是如何感知的二是在给定的任务下如何用计算机实现识别的理论和方法。在数据挖掘的各种方法中 ,决策树归纳学习算法以其易于提取显式规则、计算量相对较小、可以显示重要的决策属性和较高的分类准确率等优点而得到广泛比如，决策树每个节点对应分割的定义都是非常明确毫不含糊的，但在实际生活中这种明确可能带来麻烦对决策树常见的批评是说其在为一个节点选择怎样进行分割时使用“贪心”算法。此种算法在决定当前这个分割时根本不考虑此次选择会对将来的分割造成什么样的影响。BP神经网络算法 其学习过程由正向传播和反向传播组成。在正向传播过程中，输入信息从输入层经隐单元层逐层处理后，传至输出层。如果输出层得不到期望输出，那么就转为反向传播，把误差信号沿连接路径返回，并通过修改各层神经元的权值，使误差信号最小。 优缺点：BP算法能够通过学习带正确答案的实例集自动提取“合理的”求解规则；具有一定的推广能力；学习过程有被“固化”的潜在可能性；它能以任意精度逼近任意非线性函数，而且具有良好的逼近性能，并且结构简单，是一种性能优良的神经网络。但也存在一些问题，BP算法是按照均方误差的梯度下降方向收敛的，但均方误差的梯度曲线存在不少局部和全局最小点，这就使得神经网络易陷入局部最小；算法的收敛速度较慢，可能会浪费大量时间；神经网络隐层的结点个数难以确定合适的数值；如何选取合适的学习样本解决网络的推广（泛化）问题，即使网络能正确处理未学习过的输入。 （8）Hopfield网络算法 Hopfield网络算法作为典型的反馈神经网络，有下列特有的优点和缺点。 1. 只有不动点吸引子，没有其它类型的吸引子。Hopfield同的这个性质被称为全局稳定性。2. 网络状态的演化趋于某个二次函数的局部最小点。3. 很难精确地分析Hopfield网的性能。4. 难于找到通用的学习算法。5. 这类阿络的动力学行为过于筒单。5. Hopfield问只有不动点吸子，是一种消极被动的神经网络。 试题3：简述在模式识别与机器学习中解决问题的主要步骤。指出那些步骤涉及到学习？在数据的前处理中，特征选择起什么作用？ 答： (1) 在模式识别与机器学习中解决问题的主要步骤： 1. 问题描述：准确分析研究目的，并对未来工作做出计划。 2. 数据选择：数据选择是根据用户需求从数据库中提取相关数据。 3. 知识发现过程： 归纳为3个步骤，即数据挖掘预处理、数据挖掘、数据挖掘后处理。数据预处理是对数据进行再加工，检查数据的完整性及一致性，对其中的噪 音数据进行处理。对丢失的数据利用统计方法进行填补，形成发掘数据库。数据变换即从发掘数据库里选择数据，变换的方法主要是利用聚类分析和判别分析。数据挖掘是根据用户要求，确定知识发现的目标是发现何种类型的知识。运用选定的知识发现算法。从数据库中提取用户所需要的知识。知识评价主要用于对所获得的规则进行价值评定，以决定所得到的规则是否存入基础知识库。 4. 选择或设计模型：对同一个问题或许有许多不同的模型可以描述，不同的模型会导致识别和学习结果的不同，因此需要利用已有的经验和知识来选择或设计适当的模型。在确定了所建立的模型后，就可以估计模型的参数，需要注意的时，应该使得模型对未知数据有良好的适应性。 5. 训练所建立的模型：用前面所得的数据分成两组，一组作为训练数据，一组作为测试数据。设定目标误差，用训练数据对所建立的模型进行训练，达到目标误差，就停止训练，这样就确定了所建立模型的参数。 6. 测试、评估、验证模型：测试模型的目的是为了确定所建立模型是否满足实际应用要求。测试数据应该和训练用的样本数据不一致，否则，测试所得的结果永远都是满意的。用测试数据对所建立模型进行测试，观察测试结果是否与实际情况是相符合。若与实际情况相符合，所建立模型就可对未知数据做预测，从而得到进一步的验证。 (2)在这些步骤中，步骤5涉及到学习。 (3) 特征选取（也称作属性选择）是简化数据表达形式，是在模式识别中根据一定的原则，选取反映被识别模式本质的那些特征的方法或过程。模式识别和机器学习方法首先要解决的一个问题就是特征选择。在数据的前处理中，特征选择是一个非常重要的步骤，特征选择不合理，会影响识别和学习效果。通过特征选择和提取，我们才可得到所采集数据中最有效的信息，最有效的特征，选择出有利于分类或聚类建立模型的变量，从而实现特征空间