王永骥人工神经网络原理、应用..pptVIP

研究生论坛讲座 人工神经网络原理、应用及发展趋势 王永骥 华中科技大学控制系 纲要 1. 人工神经网络原理 2. 人工神经网络优势 3. 人工神经网络的应用 4. 人工神经网络研究趋势 5. 结束语 1. 人工神经网络原理 人之所以有智能，是因为大脑中存在一个1000亿个神经元构成的生物神经网络; 生物神经网络十分复杂，具有高度智能; 人们力图抓住主要特点，构成人工神经网络，形成具有一定智能能力的信息处理工具。 1.1.2 生物神经元 人的大脑由1012个神经元构成，神经元互相连接成神经网络 神经元组成：细胞体为主体 1873年, 意大利 Cajai 银渗透法 发现Golgi 体 神经元功能：刺激、兴奋、传导、效应 形状图 突触传递信息特点 神经元示意图 突触传递信息特点 (1) 时延性 : （0.3~1ms） (2) 综合性 ： 时间与空间的累加 (3) 类型： 兴奋与抑制 (4) 脉冲与电位转换: （D/A功能） (5) 速度： 1~150m/s (6) 不应期（死区）： 3~5ms (7) 不可逆性（单向） (8) 可塑性 : 强度可变 ,有学习功能 脉冲 1.1.3 人脑神经网络 脑神经系统主要组成部分 大脑皮层由许多功能区组成（运动、听觉、视觉等） 神经元群 其区域性结构：遗传 其功能：后天对环境的适应于学习得来 （自组织特性Self-Organization） 子功能模块的并行关系 a) 大脑处理信息的特点 b) 生物学研究成果 a) 大脑处理信息的特点 分布存储与冗余性：记忆在大量元中，每个元存在许多信息的部分内容，信息在神经网络中的记忆反映在神经元间的突触连接强度上(weights）; 并行处理：NN既是处理器又是存储器（并行处理不同于并行机）; 信息处理与存储合一：每个元兼有二者功能; 可塑性与自组织性：可塑性是学习记忆的基础; 鲁棒性：高连接度导致一定的误差和噪声不会使网络性能恶化。是智能演化的重要因素。 b) BNN研究成果 H-H方程 英 A.L.Hodgkin与A.F.Huxley 长枪乌贼鱼电器特性 得到四个变量的非线性微分方程，获Nobel生物医学奖 许多NL问题可用此解释 e.g. 自激振荡 chaos. 多重稳定性等 H－H方程 式中，I为膜电流，V为膜电位相对于静息膜电位Er的变化，VK, VNa, Vl分别为钾离子、钠离子和氯离子与其他离子形成的相对电位。CM为单位面积的膜电容，gk,gNa,gl 分别为钾离子、钠离子通道和漏电流通道的电导。 1.2 人工神经网络 研究大脑的目的： a）揭示功能造福人类 b）构造ANN用于工程及其他领域 （生物神经网络的模型化：ANN） BNN modeling ANN ANN非BNN模型，而是对结构及功能大大简化后保留主要特性的某种抽象与模型。 神经网络直观理解 神经网络是一个并行和分布式的信息处理网络结构，它一般由许多个神经元组成，每个神经元只有一个输出，它可以连接到很多其他的神经元，每个神经元输入有多个连接通道，每个连接通道对应于一个连接权系数。 人工神经网络内容 1.2.1 人工神经元模型 （Artificial Neuron model） 1.2.2 人工神经网络的构成 （structure of ANN） 1.2.3 人工神经网络的学习 （learning or training of ANN） 1.2.1 人工神经元模型 BNN 信息传递过程 为 MISO 系统, 信号为脉冲，当脉冲到达突触前膜时，前膜释放化学物质，结果在突触后产生突触后电位，其大小与脉冲密度有关（时间总合效应）。 各通道都对电位产生影响（空间总合效应）。 神经元模型（1） 神经元是人工神经网络的基本处理单元，它一般是一个多输入/多输出的非线性元件。神经元输出除受输入信号的影响之外，同时也受到神经元内部其他因素的影响，所以在人工神经元的建模中，常常还加有一个额外输入信号，称为偏差（bais），有时也称为阀值或门限值。 神经元模型（2） 。 抽象可得数学表达式：  wi 数值（weights) b 阀值（threshold） f(s) 用函数（activated transfer function） 几种常用的作用函数 (1)、阀值型（硬限制型)