智能控制第二版教学课件ppt作者李少远王景成Chapter8课件.pptxVIP

第八章控制系统数据处理的智能方法8.1 数据挖掘与信息处理的基本概念数据挖掘概念：数据挖掘就是从大量的数据中提取或挖掘知识。信息处理概念：数据挖掘可以看作是信息处理的一个工具。信息处理是从大量的、不完全的、有噪声的、模糊的、随机的实际数据中，提取出隐含在其中的、人们事先不知道的、但又有潜在价值的信息和知识的过程。8.2 基于智能技术的控制系统数据挖掘数据挖掘中常用技术：在数据挖掘中，常用到的技术有：神经网络(NN)技术、决策树技术、遗传算法等。遗传算法上章已经介绍过。下面介绍一下神经网络和决策树。 1.神经网络神经网络常用于处理两类问题：分类和回归。在结构上，可以把一个神经网络划分为输入层、输出层和隐含层。输入层的每个节点对应一个个的预测变量。输出层的节点对应目标变量，可有多个。隐含层的层数和每层节点 的个数决定了神经网络的 复杂度。 1. 神经网络每个连接对应一个权重 ，节点的值就是通过它所有输入节点的值与对应连接权重乘积的和作为一个函数的输入而得到，把这个函数称为活动函数或挤压函数。神经网络的每个节点都可表示成预测变量（节点1、2）的值或值的组合（节点3～6）。1. 神经网络调整节点间连接的权重就是在建立（也称训练）神经网络时要做的工作。最早的也是最基本的权重调整方法是BP算法，现在较新的有变化坡度法、类牛顿法、Levenberg-Marquardt法和遗传算法等。无论采用哪种训练方法，都需要有一些参数来控制训练的过程，如防止训练过度和控制训练的速度。决定神经网络拓扑结构（或体系结构）的是隐含层及其所含节点的个数，以及节点之间的连接方式。1. 神经网络在诸多类型的神经网络中，最常用的是前向传播式神经网络。下面详细讨论一下，为讨论方便假定只含有一层隐含节点。其过程如下：（1）前向传播：数据从输入到输出的过程是一个从前向后的传播过程，后一节点的值通过它前面相连的节点传过来，然后把值按照各个连接权重的大小加权输入活动函数再得到新的值，进一步传播到下一个节点。（2）回馈：当节点的输出值与预期的值不同，也就是发生错误时，神经网络就要“学习”。学习的方法是采用惩罚的方法。对训练集中的每一条记录都要重复这个步骤，用前向传播得到输出值，如果发生错误，则用回馈法进行学习。1. 神经网络训练过度： 神经网络训练时间太长的话，得到的模型对训练集会有很高的准确率，而一旦离开训练集应用到其他数据，很可能准确度急剧下降。为了防止这种训练过度的情况，必须知道在什么时候要停止训练。1. 神经网络训练过度： 神经网络训练时间太长的话，得到的模型对训练集会有很高的准确率，而一旦离开训练集应用到其他数据，很可能准确度急剧下降。为了防止这种训练过度的情况，必须知道在什么时候要停止训练。2. 决策树决策树提供了一种展示类似在什么条件下会得到什么值这类规则的方法。比如，在贷款申请中，要对申请的风险大小做出判断，下图便是为了解决这个问题而建立的一棵决策树，从中可以看到决策树的基本组成部分：决策节点、分支和叶子。2. 决策树决策树中最上面的节点称为根节点，是整个决策树的开始。每个分支要么是一个新的决策节点，要么是树的结尾，称为叶子。在沿着决策树从上到下遍历的过程中，在每个节点都会遇到一个问题，对每个节点上问题的不同回答导致不同的分支，最后会到达一个叶子节点。这个过程就是利用决策树进行分类的过程。2. 决策树本例中根节点是“收入￥40,000”，对此问题的不同回答产生了“是”和“否”两个分支。“年收入￥40,000”和“高负债”的用户被认为是“高风险”，同时“收入￥40,000”但“工作时间5年”的申请，则被认为“低风险”而建议贷款。2. 决策树建立一颗决策树可能只要对数据库进行几遍扫描之后就能完成，这也意味着需要的计算资源较少，而且可以很容易地处理包含很多预测变量的情况，因此决策树模型可以建立得很快，并适合应用到大量的数据上。对最终用于分析的决策树来说，在建立过程中让其生长得太“枝繁叶茂”是没有必要的，这样既降低了树的可理解性和可用性，同时也使决策树本身对历史数据的依赖性增大，因此需要有一种方法能在适当的时候停止树的生长。常用的方法是设定决策树的最大高度（层数）来限制树的生长。8.2.2 数据挖掘的功能特性数据挖掘所涉及的学科领域和方法很多，以下介绍了四种常见的发现任务。（1）数据总结（2）分类（3）聚集（4）关联规则8.2.2 数据挖掘的功能特性1．聚集 聚集是把整个数据库分成不同的群组。它的目的是要群与群之间差别很明显，而同一个群之间的数据尽量相似。2．分类 数据分类是一个两步的过程。第一步，建立一个模型，描述预定的数据类集或概念集。通过对由属性描述的数据项的分析，构造模型。第二步，使用模型进行分类。8.2.2 数据挖掘的功能特性3．挖掘关联规则 关联规则是寻找在同