人工智能_6.pdfVIP

机器学习及神经网络概述 院系：化工学院化工机械系 班级：10 自动化 （1） 姓名： 李正智 学号：1020301016 日期：2013 年10 月14 日 机器学习及神经网络概述 摘要：机器学习以知识的自动获取和产生为研究目标，是人工智能领域研究的热点问翅 之一分类器的优化设计一直是机器学习!模式识别和数据挖掘等领域研究的核心问魔， 它在图像识别!语音理解!自然语言处理!医疗诊断及Web页面的分类等领域具有广泛的 应用。本文以机器学习及其在神经网络分类器设计中的应用为研究内容，主要论述机器 学习及神经网络分类器的应用。 关键词：机器学习 神经网络 分类器 发展 一．神经网络分类器概述 分类器的优化设计一直是机器学习!模式识别和数据挖掘等领域研究的核心问题， 它在图像识别!语音理解!自然语言处理!医疗诊断及研海b页面的分类目录组织等领域 具有广泛的应用。 早期经典的分类方法是统计分类，其表达形式建立在一个坚实的方法和公式的基础 上。它主要基于用概率统计模型得到各类别的特征向量分布，以取得分类的功能。用己 知类别标签的样本集来训练从而得知如何分类，如果分类器设计得有效，它将可以处理 新的!未经训练过的样本，并且处理效果很好。但是，前提条件是/样本分布模型事先可 知，这个条件很苛刻，现实应用中一般较难满足。 与统计模型相反，神经网络是一个/模型无关的机器，是通过适当的权重系数调整 来使输出收敛于正确的目标值，表现出一种非监督学习条件下分类器的性能，具有能够 通过调整使得输出在特征空间通近任意目标的优点。存在的不足就是，关于神经网络的 数学解释很复杂，对于一些重要的决策，设计者常常没有什么理论根据，不得不进行大 量的实验，并从实验失败中得到启发从而不断改进。虽然，神经网络分类器在工程领域 也都获得一些研究和应用成果。但是，一些根本的问题依然存在，例如，模式特征的选 取是否适当和充分;样本是不是足够并具有代表性:分类器模型复杂度是否适中:等等。 要想解决好这些问题，对于没有神经网络背景知识以及分类器设计经验的工程人员来说 是一件较为困难的事。 神经网络分类器的设计过程主要是:样本的采集与标记;特征选择与提取:分类器 网络结构的设计;分类器的训练过程;分类测试(系统评估)。首先，设计一个神经网络分 类器需要一个原始数据集，设计人员所要做得第一项工作就是从这些原始数据集中获取 信息量最大的训练样本集，以有效指导后面的分类器网络结构设计，以及分类器的训练 和测试，最终确定出一个针对具体分类任务最为合适的分类器模型。设计的最大原则就 是分类错误率最小化。 一个性能优化的神经网络分类器设计应追求以下四个最佳化目标，即: l)复杂度适中的分类器网络结构: 2)包含信息量尽可能多的样本集合； 3)对分类规则产生贡献尽可能大的特征集合； 4)具有较高的分类正确率。 在分类器设计过程中，最重要的工作是在于针对一个具体的分类问题，找到一组合 适的特征集合，并设计出复杂度适中的分类器结构。实际应用中，通常有两种选择:一 是从多个专家处获得的专业知识直接产生，另一个是通过机器学习的方式，从已知的训 练集中获取先验知识，然后指导网络结构的设计。第一种方法带有明显的主观性和经验 性，受人为因素影响很大。因此，近几十年来，许多分类器设计工作者都希望采用第二 种方法来完成分类器的设计任务。 二．机器学习 机器学习是研究怎样使用计算机模拟或实现人类学习活动的科学，是人工智能中最 具智能特征!最前沿的研究领域之一。自8年代以来，机器学习作为实现人工智能的途 径，在人工智能界引起了广泛的兴趣。特别是近十几年来，机器学习领域的研究工作发 展很快，它己成为人工智能的重要课题之一。机器学习不仅在基于知识的系统中得到应 用，而且在自然语言理解!非单调推理!机器视觉!模式识别等许多领域也得到了广泛开 展。一个系统是否具有学习能力已成为是否具有/智能的一个标志。 关于机器学习的定义，一般公认simon对学习的论述:/如果一个系统能够通过执 行某个过程改进它的性能，这就是学习