系统辨识第七章讲义.pdfVIP

系统辨识 第七章 神经网络模型 主讲教师：郭毓 联系方式：025 南京理工大学自动化学院 第七章 神经网络模型 7.1 概述 人工神经网络（Artificial Neural Networks ， 有关的理论和方法已经 ANN ）研究取得重大进展， 使其发展成为一门介于物理学、数学、计算机科学 和神经生物学之间的交叉学科，在过程控制、模式 识别、函数逼近、动态建模、数据挖掘，以及某些 生物体神经活动的过程等领域，都取得了成功应用 的实例。ANN 在系统辨识和控制中的应用研究成 为热点。 这里，研究建模中最常用的 NN 的数学描述。 2 7.2 神经组织的基本特征和人工神经元 1 ）神经组织的基本特征 细胞体——基本的初等信号处理器； 树突——信号的输入通道； 轴突——信号的输出通道； 突触——神经末梢与树突接触的界面。 3 7.2 神经组织的基本特征和人工神经元 1 ）神经组织的基本特征 信号从一个神经细胞经过突触传递到另一个 细胞，是一个复杂的生物化学过程。 它可以产生两种不同的效果：或者使接收信号 一方细胞体内的电位升高，或者使之降低。 当细胞体内电位达到某一阈值时，则接收信号 它也会通过轴突传出一个固定强度 的细胞被激发， 和持续时间的脉冲信号，此时该细胞处于激发态。 当细胞体内电位低于阈值时，则不产生任何电 位输出，细胞处于抑制状态。 4 7.2 神经组织的基本特征和人工神经元 由处于激发态的神经细胞所产生的脉冲信号， 通过神经末梢传向处于下游的每个与之相连的神 经元。 但是对不同的下游神经元，信号所引起的电位 变化是不同的。 ——不同的神经元之间作用强度不同（即连接 强度）。 两种神经元之间的连接强度，随其激发与抑制 行为相关性的时间平均值正比变化。 ——生物学上的 Hebb 律，表明神经系统有某 种可塑性。 5 7.2 神经组织的基本特征和人工神经元 2 ）人工神经元的M-P 模型 讨论 1 ）单个神经元的形式的定义 2 ）决定网络的层数、各层中的神经元的数 量，以及彼此连接方式——定义网络 3 ）给出一种方法，决定神经元之间的连接 强度，使网络具备某种能力 6 7.2 神经组织的基本特征和人工神经元 2 ）人工神经元的M-P 模型 历史上第一个人工神经元模型（由心理学家 McCulloch 和 数理逻辑学家 Pitts 1943 年提出 ） ⎛ n ⎞ ⎧1, x ≥0 y f ⎜∑w x =−μ ⎟，f (x ) ⎨ i j 1 ij j i 0, 其他 ⎝ ⎠ ⎩ 每个神经元只有两个状态 0,1 ， 是一个实数，