神经网络原理与控制.pptxVIP

神经网络原理与控制第1页/共265页 2023/6/152神经系统 的复杂性第2页/共265页 2023/6/153第3页/共265页 2023/6/154分子第4页/共265页 2023/6/155突触第5页/共265页 2023/6/156单个神经元第6页/共265页 2023/6/157神经网络第7页/共265页 2023/6/158信息处理第8页/共265页 2023/6/1595.1 神经网络的基本概念5.1.1 生物神经元人的大脑由1012个神经元构成，神经元互相连接成神经网络神经元组成：细胞体为主体神经元功能：刺激、兴奋、传导、效应形状图突触传递信息特点第9页/共265页 2023/6/1510形状图第10页/共265页 2023/6/15115.1.2 人工神经元模型BNN 信息传递过程 为 MISO 系统,信号为脉冲，当脉冲到达突触前膜时，前膜释放化学物质，结果在突触后产生突触后电位，其大小与脉冲密度有关（时间总合效应）。 各通道都对电位产生影响（空间总合效应）第11页/共265页 2023/6/1512 BNN 脉冲， ANN 模拟电压ANN等效模拟电压近似BNN脉冲密度，仅有空间累加无时间累加（可认为时间累加已隐含于等效模拟电压之中）ANN中未考虑时延、不应期及疲劳等 可建立更为精确的模型，但一般NN研究无此必要（方法论）第12页/共265页 2023/6/1513人工神经元模型 BNN 信息传递过程 为 MISO 系统, 信号为脉冲，当脉冲到达突触前膜时，前膜释放化学物质，结果在突触后产生突触后电位，其大小与脉冲密度有关（时间总合效应）。 各通道都对电位产生影响（空间总合效应）。 第13页/共265页 2023/6/1514 单个神经元特性 神经元的膜电位与时间关系如下spike第14页/共265页 2023/6/1515实际神经元记录：膜电位Recording from a real neuron: membrane potential第15页/共265页 2023/6/1516神经元模型（1）神经元是人工神经网络的基本处理单元，它一般是一个多输入/单输出的非线性元件。神经元输出除受输入信号的影响之外，同时也受到神经元内部其他因素的影响，所以在人工神经元的建模中，常常还加有一个额外输入信号，称为偏差（bias），有时也称为门限值或阈值（threshold）。第16页/共265页 2023/6/1517神经元模型（2） 。 第17页/共265页 2023/6/1518抽象可得数学表达式： y=σ(s) (5-2)式中：ωi 加权值（weights) θ阀值（threshold） σ(s) 作用函数（activated transfer function） 第18页/共265页 2023/6/1519几种常用的作用函数 1、阈值型（硬限制型) 2、线性型 3、S型函数（Sigmoid） 4、辐射基函数第19页/共265页 2023/6/1520(1)、阈值型（硬限制型） 生物学背景：神经细胞的兴奋与抑制；单极性第20页/共265页 2023/6/1521生物学背景：神经细胞的兴奋与抑制：双极性第21页/共265页 2023/6/1522(2)、线性型a) 全线性 生物学背景：神经细胞的比例作用（全方位）第22页/共265页 2023/6/1523b) 正线性生物学背景：神经细胞的线性比例作用（单方向）第23页/共265页 2023/6/1524(3)、S型函数（Sigmoid）a) 对数正切 y=1/(e-n+1)生物学背景：神经细胞的非线性比例作用（单向）第24页/共265页 2023/6/1525b)双曲正切 y=tanh(n)生物学背景：神经细胞的非线性比例作用（全方位）第25页/共265页 2023/6/1526（4）辐射基函数a) 高斯函数生物学背景：视觉，听觉等类神经细胞的区域性非线性用第26页/共265页 2023/6/1527b)三角波函数生物学背景：视觉，听觉等类神经细胞的区域性非线性用的线性近似第27页/共265页 2023/6/15285.2.2 人工神经网络的构成基本模型连接的几种基本形式前向网络（feed-forward Networks）回归网络（recurrent Networks）互联网络（全互连与局部互连）也可是以上几种形式的组合第