人工智能导论第8章 人工神经网络及其应用.ppt

第 8 章 人工神经网络及其应用 教材： 王万良《人工智能导论》（第3版） 高等教育出版社，2011. 2 第8章 人工神经网络及其应用 神经网络（neural networks，NN） 第8章 人工神经网络及其应用 8.1 神经元与神经网络 8.2 BP神经网络及其学习算法 8.3 BP神经网络的应用 8.4 Hopfield神经网络及其改进 8.5 Hopfield神经网络的应用 第8章 人工神经网络及其应用 8.1 神经元与神经网络 8.2 BP神经网络及其学习算法 8.3 BP神经网络的应用 8.4 Hopfield神经网络及其改进 8.5 Hopfield神经网络的应用 8.1 神经元与神经网络 8.1.1 生物神经元的结构 8.1.2 神经元数学模型 8.1.3 神经网络结构与工作方式 8.1.1 生物神经元的结构 8.1.1 生物神经元的结构 8.1.1 生物神经元的结构 8.1.2 神经元数学模型 1943年，麦克洛奇和皮兹提出M－P模型。一般模型： 8.1.2 神经元数学模型 非线性激励函数（传输函数、输出变换函数） 8.1.2 神经元数学模型 非线性激励函数（传输函数、输出变换函数） 8.1.2 神经元数学模型 8.1 神经元与神经网络 8.1.1 生物神经元的结构 8.1.2 神经元的数学模型 8.1.3 神经网络的结构与工作方式 8.1.3 神经网络的结构与工作方式 决定人工神经网络性能的三大要素： 8.1.3 神经网络的结构与工作方式 1. 神经网络的结构 （1）前馈型（ 前向型） 8.1.3 神经网络的结构与工作方式 1. 神经网络的结构 （2）反馈型 8.1.3 神经网络的结构与工作方式 2. 神经网络的工作方式 第8章 人工神经网络及其应用 8.1 神经元与神经网络 8.2 BP神经网络及其学习算法 8.3 BP神经网络的应用 8.4 Hopfield神经网络及其改进 8.5 Hopfield神经网络的应用 8.2 BP神经网络及其学习算法 8.2.1 BP神经网络 的结构 8.2.2 BP学习算法 8.2.3 BP算法的实现 8.2 BP神经网络及其学习算法 8.2.1 BP神经网络的结构 8.2.2 BP学习算法 8.2.3 BP算法的实现 8.2.1 BP神经网络的结构 8.2.1 BP神经网络的结构 8.2.1 BP神经网络的结构 8.2 BP神经网络及其学习算法 8.2.1 BP神经网络的结构 8.2.2 BP学习算法 8.2.3 BP算法的实现 8.2.2 BP学习算法 两个问题： 8.2.2 BP学习算法 目标函数： 8.2.2 BP学习算法 8.2.2 BP学习算法 正向传播：输入信息由输入层传至隐层，最终在输出层输出。 反向传播：修改各层神经元的权值，使误差信号最小。 8.2 BP神经网络及其学习算法 8.2.1 BP神经网络的结构 8.2.2 BP学习算法 8.2.3 BP算法的实现 8.2.3 BP算法的实现 （1）初始化：对所有连接权和阈值赋以随机任意小值； （2） 从 N 组输入输出样本中取一组样本：x=[x1, x2,…, xp1]T, d=[d1, d2,…,dpm]T, 把输入信息x=[x1, x2,…, xp1]T输入到BP网络中 （3）正向传播：计算各层节点的输出： （4）计算网络的实际输出与期望输出的误差： 8.2.3 BP算法的实现 （5）反向传播：从输出层方向计算到第一个隐层，按连接权值修正公式向减小误差方向调整网络的各个连接权值。 （6）让t+1→t，取出另一组样本重复（2）－（5），直到 N 组输入输出样本的误差达到要求时为止。 8.2.3 BP算法的实现 8.2.4 BP算法的特点分析 8.2.4 BP算法的特点分析 第8章 人工神经网络及其应用 8.1 神经元与神经网络 8.2 BP神经网络及其学习算法 8.3 BP神经网络的应用 8.4 Hopfield神经网络及其改进 8.5 Hopfield神经网络的应用 8.4 Hopfield神经网络及其改进 8.4.1 离散型Hopfield神经网络 8.4.2 连续型Hopfield神经网络及其VLSI实现 8.4.3 随机神经网络 8.4 Hopfi