物联网智能信息处理 课件 第四章 物联网的智能信息处理-第三节.pptx

物联网的智能信息处理13目录信息处理的定义与目标2信息的跨系统交互基于贝叶斯网络的神经网络法4粗糙集信息处理5信息融合技术4.3基于贝叶斯网络的神经网络法4.3.1生物神经网络 由中枢神经系统（脑和脊髓）及周围神经系统（感觉、运动、交感等）所构成的错综复杂的神经网络，最重要的是脑神经系统。1. 生物神经元神经末梢突触轴突突触细胞体树突一个神经元的树突-细胞体－轴突－突触－另一个神经元树突4.3.1生物神经网络1. 生物神经元神经元工作状态：兴奋状态：细胞膜电位高于动作电位的阈值时，产生神经冲动。抑制状态：细胞膜电位低于动作电位的阈值时，无神经冲动产生。4.3.1生物神经网络2. 生物神经网络 从信息系统研究的观点出发，对于人脑这个智能信息处理系统，有如下一些固有特征：4.3.2 人工神经网络模型人工神经网络（Artificial Neural Networks，ANNs）是在结构和功能上对生物神经网络的某种程度的模拟和逼近。直观理解 人工神经网络是一个并行和分布式的信息处理网络结构。它一般由大量神经元组成：每个神经元只有一个输出，可以连接到很多其他的神经元。每个神经元输入有多个连接通道，每个连接通道对应于一个连接权系数 。4.3.2 人工神经网络模型1. 人工神经元人工神经元是人工神经网络的基本处理单元。它对生物神经元的模拟主要考虑两个特性：时空加权，阈值作用。图中：是指神经元的输入；是指连接权值；是神经元的阈值；是神经元的净输入；是非线性函数；是神经元的输出。4.3.2 人工神经网络模型1. 人工神经元在神经元模型中，作用函数除了单位阶跃函数之外，还有其它形式。不同的作用函数，可构成不同的神经元模型。 阈值型S型线性型线性 　 　 饱和线性 　对称饱和线性 4.3.2 人工神经网络模型2. 神经网络结构 若干个神经元通过相互连接就形成一个神经网络，这个神经网络的拓扑结构称为神经网络的互连模式。 神经元模型、数量及互连模式确定了神经网络的结构，而神经网络结构又决定了其信息处理的能力。4.3.2 人工神经网络模型2. 神经网络结构根据神经元的拓扑结构形式不同，神经网络可分成以下两大类： (1) 层次型神经网络 普通前向网络神经元分层排列，顺序连接。每层的神经元只接受前一层神经元的输入。层内互联前向网络在同一层中的神经元相互有连接。可以实现同一层内神经元之间的横向抑制或兴奋机制。4.3.2 人工神经网络模型2. 神经网络结构(1) 层次型神经网络 带反馈的层次网络每一个输入节点都有可能接受来自外部的输入和来自输出神经元的反馈。只在输出层到输入层存在反馈。根据神经网络的连接结构及功能特点可知，层次型神经网络主要用于函数映射，互连型神经网络主要用作各种联想存储器或用于求解最优化问题。 (2) 互连型神经网络 任意两个神经元之间都可能有相互连接的关系。神经网络处在一种不断改变状态的动态过程中。4.3.2 人工神经网络模型3. 神经网络工作过程神经网络的输出性能主要取决于：有监督学习算法4.3.2 人工神经网络模型网络的输出有一个评价的标准，网络将实际输出和评价标准进行比较，由其误差信号决定连接权值的调整。4. 神经网络学习方式无监督学习算法只需给出一组输入，网络能够逐渐演变到对输入的某种模式做出特定的反应。4.3.2 人工神经网络模型5. 神经网络特点并行处理自组织性层次性容错性可塑性自适应性联想记忆神经网络计算特点4.3.3 BP神经网络 误差后向传播(Back-Propagation)神经网络模型，是采用BP算法的多层感知器神经网络。它是目前使用最广泛一类神经网络模型。 除输入，输出层外，还有一个或多个隐层。各层之间的神经元全互连，各层内的神经元无连接，网络无反馈。输入层隐含层输出层4.3.3 BP神经网络1.BP学习算法BP学习算法是对简单的 学习规则的推广和发展。学习实质上就是一个典型的函数最优化过程。它利用梯度最速下降法，使权重值沿误差的负梯度方向改变。4.3.3 BP神经网络2. BP网络学习流程4.3.3 BP神经网络3. BP网络优缺点p(A,B)p(B|A)p(A)==p(A|B)p(B)p(B)p(E|A)p(A)p(E|A)p(A)==iiiip(A|E)?ip(E)p(E|A)p(A)iii4.3.4 贝叶斯网络1.贝叶斯规则A2A3A4A1EA6A5基于条件概率的定义p(Ai|E) 是在给定证据下的后验概率p(Ai) 是先验概率P(E|Ai) 是在给定Ai下的证据似然p(E) 是证据的预定义后验概率4.3.4 贝叶斯网络2.贝叶斯网络 贝叶斯网络是基于概率推理过程的图形化网络。它提供了一种自然的表示因果信息的方法，用来发现数据间的潜在关系。贝叶斯网络：? 概率论 ? 图论4.3.4 贝叶斯网络例子2.贝叶