第五章 神经网络原理与控制v3课件.pptx

2017-3-30 第五章 NN 1 第五章 神经网络原理 5.1 神经网络的基本概念 5.2 前向神经网络及主要算法 5.3 反馈网络 5.4 神经网络控制 2017-3-30 第五章 NN 2 神经系统 的复杂性 2017-3-30 第五章 NN 3 2017-3-30 第五章 NN 4 分子 2017-3-30 第五章 NN 5 突触 2017-3-30 第五章 NN 6 单个神经元 2017-3-30 第五章 NN 7 神经网络 2017-3-30 第五章 NN 8 信息处理 2017-3-30 第五章 NN 9 5.1 神经网络的基本概念 5.1.1 生物神经元 人的大脑由1012个神经元构成，神经元互相连接成神经网络 神经元组成：细胞体为主体 神经元功能：刺激、兴奋、传导、效应 形状图 突触传递信息特点 2017-3-30 第五章 NN 10 形状图 2017-3-30 第五章 NN 11 5.1.2 人工神经元模型 BNN 信息传递过程 为 MISO 系统,信号为脉冲，当脉冲到达突触前膜时，前膜释放化学物质，结果在突触后产生突触后电位，其大小与脉冲密度有关（时间总合效应）。 各通道都对电位产生影响（空间总合效应） 2017-3-30 第五章 NN 12 BNN 脉冲， ANN 模拟电压 ANN等效模拟电压近似BNN脉冲密度，仅有空间累加无时间累加（可认为时间累加已隐含于等效模拟电压之中） ANN中未考虑时延、不应期及疲劳等 可建立更为精确的模型，但一般NN研究无此必要（方法论） 2017-3-30 第五章 NN 13 人工神经元模型 BNN 信息传递过程 为 MISO 系统, 信号为脉冲，当脉冲到达突触前膜时，前膜释放化学物质，结果在突触后产生突触后电位，其大小与脉冲密度有关（时间总合效应）。 各通道都对电位产生影响（空间总合效应）。 2017-3-30 第五章 NN 14 单个神经元特性 神经元的膜电位与时间关系如下 spike 2017-3-30 第五章 NN 15 实际神经元记录：膜电位 Recording from a real neuron: membrane potential 2017-3-30 第五章 NN 16 神经元模型（1） 神经元是人工神经网络的基本处理单元，它一般是一个多输入/单输出的非线性元件。神经元输出除受输入信号的影响之外，同时也受到神经元内部其他因素的影响，所以在人工神经元的建模中，常常还加有一个额外输入信号，称为偏差（bias），有时也称为门限值或阈值（threshold）。 2017-3-30 第五章 NN 17 神经元模型（2） 。 2017-3-30 第五章 NN 18 抽象可得数学表达式： y=σ(s) (5-2) 式中： ωi 加权值（weights) θ阀值（threshold） σ(s) 作用函数（activated transfer function） 2017-3-30 第五章 NN 19 几种常用的作用函数 1、阈值型（硬限制型) 2、线性型 3、S型函数（Sigmoid） 4、辐射基函数 2017-3-30 第五章 NN 20 (1)、阈值型（硬限制型） 生物学背景： 神经细胞的 兴奋与抑制； 单极性 2017-3-30 第五章 NN 21 生物学背景： 神经细胞的 兴奋与抑制： 双极性 2017-3-30 第五章 NN 22 (2)、线性型a) 全线性 生物学背景： 神经细胞的 比例作用（全方位） 2017-3-30 第五章 NN 23 b) 正线性 生物学背景： 神经细胞的 线性比例作用（单方向） 2017-3-30 第五章 NN 24 (3)、S型函数（Sigmoid）a) 对数正切 y=1/(e-n+1) 生物学背景： 神经细胞的非线性比例作用（单向） 2017-3-30 第五章 NN 25 b)双曲正切 y=tanh(n) 生物学背景： 神经细胞的 非线性比例作用（全方位） 2017-3-30 第五章 NN 26 （4）辐射基函数a) 高斯函数 生物学背景： 视觉，听觉等类神经细胞的区域性非线性用 2017-3-30 第五章 NN 27 b)三角波函数 生物学背景： 视觉，听觉等类神经细胞的区域性非线性用的线性近似 2017-3-30 第五章 NN 28