《物联网基础技术及应用》课件第4章-智能处理基础技术修改02.ppt

4.3.5人工神经网络反向传播，修正神经元之间的连接权值和阈值神经网络训练的目的是：通过调节各神经元的自由参数，使网络产生期望的行为，即当输入样本时，网络输出尽可能接近。无监督学习不提供导师信号，只规定学习方式或某些规则，具体的学习内容随系统所处环境（即输入信号情况）而异，系统可以自动发现环境特征和规律。一般情况下，有监督学习的训练样本是输入输出对（），其中为输入样本，为输出样本（期望输出，或导师信号）。4.3.4决策树选择属性Outlook进行测试，其不确定程度（即条件熵）为属性Outlook对于分类提供的信息量为4.3.4决策树同理可获得：由上述计算结果可知，当测试属性为outlook时，提供的信息量最大。因此首先选择outlook作为测试属性，由于overcast完全分为P所以不需要继续划分，如图所示4.3.4决策树接下来要确定N1去Temperature、Humidity还是Windy。在Outlook=Sunny的情况下，根据表5做出下表，并计算三者的所提供的信息量，选最大者为N1节点的属性4.3.4决策树TemperatureHumidityWindyClassPNPNPNPNhot02high03false1223mild11normal20true11cool10表6N1节点分类图由表可直接看出，Humidity把决策问题是否打球完全分为P和N两类，所以N1节点选择Humidity。按照同样的方法，N3节点也画出节点分类图，根据信息量选择Windy为决策属性。因此可画出最终决策树。4.3.4决策树4.3.4决策树3.决策树的评价标准决策树的优劣有许多评价标准，包括正确性（正确率）、过学习、有效性（错误率）、复杂性等。决策树的复杂程度也是度量决策树学习效果的一个很重要的标准，一般有以下三种评价标准：（1）最优覆盖问题（MCV），即生成最少数目叶结点的决策树。（2）最简公式问题（MCOMP），即生成每个叶节点深度最小的决策树。（3）最优示例学习问题（OPL），即生成的决策树叶子节点最少且每个叶子节点的深度最小。习题：下表根据历史数据，记录已有的用户是否可以偿还债务，以及相关的信息。建立决策树，预测新用户是否可以偿还债务？比如新来一个用户：无房产，单身，年收入55K。ID拥有房产婚姻情况年收入（千元）无法偿还债务1是单身125否2否已婚100否3否单身70否4是已婚120否5否离婚95是6否已婚60否7是离婚220否8否单身85是9否已婚75否10否单身90是4.3.4决策树人工神经网络（ArtificialNeuralNetwork,ANN），简称为神经网络，是由大量处理单元（人工神经元）广泛互连而成的网络，是对人脑的抽象、简化和模拟，反映人脑的基本特征。它按照一定的学习规则，通过对大量样本数据的学习和训练，抽象出样本数据间的特性----网络掌握的“知识”，把这些“知识”以神经元之间的连接权和阈值的形式储存在下来，利用这些”知识”可以实现某种人脑的推理、判断等功能。4.3.5人工神经网络4.3.5人工神经网络人工神经网络的研究是从人脑的生理结构出发来研究人的智能行为，模拟人脑信息处理的能力。它是根植于神经科学、数学、统计学、物理学、计算机科学及工程等学科的一种技术。4.3.5人工神经网络人工神经网络的发展启蒙时期20世纪40年代~60年代低潮时期20世纪70年代复兴时期20世纪80年代~90年代初高潮时期2006年~4.3.5人工神经网络4.3.5人工神经网络人工神经网络的要素神经元学习规则拓扑结构人工神经网络的三个要素4.3.5人工神经网络4.3.5人工神经网络1.设计一个神经网络时，输入层与输出层的节点数往往是固定的，中间层则可以自由指定；2.神经网络结构图中的拓扑与箭头代表着预测过程时数据的流向，跟训练时的数据流有一定的区别；3.结构图里的关键不是圆圈（代表“神经元”），而是连接线（代表“神经元”之间的连接）。每个连接线对应一个不同的权重（其值称为权值），这是需要训练得到的。4.3.5人工神经网络生物神经元通过突触接收和传递