人工神经网络及其应用.ppt

第 8 章 人工神经网络及其应用 教材： 王万良《人工智能及其应用》（第2版） 高等教育出版社，2008. 6 第8章 人工神经网络及其应用 神经网络（neural networks，NN） 第8章 人工神经网络及其应用 8.1 神经元与神经网络 8.2 BP神经网络及其学习算法 8.3 BP神经网络的应用 8.4 Hopfield神经网络及其改进 8.5 Hopfield神经网络的应用 8.6 Hopfield神经网络优化方法求解JSP 第8章 人工神经网络及其应用 8.1 神经元与神经网络 8.2 BP神经网络及其学习算法 8.3 BP神经网络的应用 8.4 Hopfield神经网络及其改进 8.5 Hopfield神经网络的应用 8.6 Hopfield神经网络优化方法求解JSP 8.1 神经元与神经网络 8.1.1 生物神经元的结构 8.1.2 神经元数学模型 8.1.3 神经网络结构与工作方式 8.1.1 生物神经元的结构 8.1.1 生物神经元的结构 8.1.1 生物神经元的结构 8.1.2 神经元数学模型 1943年，麦克洛奇和皮兹提出M－P模型。一般模型： 8.1.2 神经元数学模型 非线性激励函数（传输函数、输出变换函数） 8.1.2 神经元数学模型 非线性激励函数（传输函数、输出变换函数） 8.1.2 神经元数学模型 非线性激励函数（传输函数、输出变换函数） 8.1.2 神经元数学模型 非线性激励函数（传输函数、输出变换函数） 8.1.2 神经元数学模型 8.1 神经元与神经网络 8.1.1 生物神经元的结构 8.1.2 神经元的数学模型 8.1.3 神经网络的结构与工作方式 8.1.3 神经网络的结构与工作方式 决定人工神经网络性能的三大要素： 8.1.3 神经网络的结构与工作方式 1. 神经网络的结构 （1）前馈型（ 前向型） 8.1.3 神经网络的结构与工作方式 1. 神经网络的结构 （2）反馈型 8.1.3 神经网络的结构与工作方式 2. 神经网络的工作方式 8.1.4 神经网络的发展概况 8.1.4 神经网络的发展概况 8.1.4 神经网络的发展概况 8.1.4 神经网络的发展概况 8.1.4 神经网络的发展概况 第8章 人工神经网络及其应用 8.1 神经元与神经网络 8.2 BP神经网络及其学习算法 8.3 BP神经网络的应用 8.4 Hopfield神经网络及其改进 8.5 Hopfield神经网络的应用 8.6 Hopfield神经网络优化方法求解JSP 8.2 BP神经网络及其学习算法 8.2.1 BP神经网络 （back-propagation neural network）的结构 8.2.2 BP学习算法 8.2.3 BP算法的实现 8.2 BP神经网络及其学习算法 8.2.1 BP神经网络（back-propagation neural network）的结构 8.2.2 BP学习算法 8.2.3 BP算法的实现 8.2.1 BP神经网络的结构 8.2.1 BP神经网络的结构 8.2.1 BP神经网络的结构 8.2 BP神经网络及其学习算法 8.2.1 BP神经网络的结构 8.2.2 BP学习算法 8.2.3 BP算法的实现 8.2.2 BP学习算法 两个问题： 8.2.2 BP学习算法 目标函数： 8.2.2 BP学习算法 正向传播：输入信息由输入层传至隐层，最终在输出层输出。 反向传播：修改各层神经元的权值，使误差信号最小。 8.2 BP神经网络及其学习算法 8.2.1 BP神经网络的结构 8.2.2 BP学习算法 8.2.3 BP算法的实现 8.2.3 BP算法的实现 （1）初始化：对所有连接权和阈值赋以随机任意小值； （2） 从 N 组输入输出样本中取一组样本：x=[x1, x2,…, xp1]T, d=[d1, d2,…,dpm]T, 把输入信息x=[x1, x2,…, xp1]T输入到BP网络中 （3）正向传播：计算各层节点的输出： （4）计算网络的实际输出与期望输出的误差： 8.2.3 BP算法的实现 （5）反向传播：从输出层方向计算到第一个隐层，按连接权值修正公式向减小误差方向调整网络的各个连接权值。 （6）让t+1→t，取出