P3 神经网络原理讲解材料.ppt

第三部分;参考书目;1 导言;神经网络的其他名称;1.1 神经网络的发展历史;神经网络的发展历史;神经网络的发展历史;神经网络的发展历史;神经网络的发展历史;神经网络的发展历史;神经网络的发展历史;神经网络的发展历史;神经网络的发展历史;神经网络的发展历史;神经网络的发展历史;1.2 神经元模型;人工神经元模型;神经元输入输出关系;人工神经元模型;人工神经元模型;神经元输入输出关系;激活函数的类型;激活函数的类型;1.3 网格结构;单层前馈网络;单层前馈网络;多层前馈网络;递归网络;递归网络;1.4 关于知识;知识表示的主要特征;知识的组成;例子与样本;知识表示的规则（Anderson，1988）;知识表示的规则;1.4 学习;学习隐含的事实;1.4.1 基本的学习算法;误差-修正学习;误差-修正学习;误差-修正学习规则;误差-修正学习;误差-修正学习;基于记忆的学习;基于记忆的学习;基于记忆的学习;基于记忆的学习;Hebb学习;Hebb学习;Hebb突触的重要机制;Hebb学习的数学模型;竞争学习;竞争学习;竞争学习;Boltzmann学习;Boltzmann机;1.4.2 学习范例;有教师学习;1.4.3 学习的任务;1.5 一个实例;算法;Step1;Step2;2 单层感知器;单层感知器;2.1 自适应滤波器;自适应滤波器;自适应滤波器;自适应滤波器;自适应滤波器;2.2 无约束最优化技术;无约束最优化;无约束最优化;最速下降法;最速下降法的一般表示;最速下降法的分析;最速下降法的分析;其他的优化算法;2.3 最小均方算法LMS;LMS;LMS算法收敛准则;LMS算法的优点与局限;2.4 学习曲线与学习率;学习曲线;学习率;学习率退火进度;2.5 感知器;感知器;感知器;感知器;感知器;感知器收敛算法;感知器收敛算法 ;感知器收敛算法;感知器收敛定理;单层感知器的局限性;单层感知器的局限性;3 多层感知器;多层感知器的特点;多层感知器结构图;多层感知器符号;多层感知器符号;3.1 反向传播算法;反向传播算法;反向传播算法;反向传播算法-输出神经元;反向传播算法-输出神经元;;反向传播算法-输出神经元;反向传播算法-输出神经元;局域梯度;反向传播算法-隐藏神经元;反向传播算法-隐藏神经元;反向传播算法-隐藏神经元;反向传播算法-隐藏神经元;误差信号反向传播;反向传播算法-隐藏神经元;局域梯度计算;3.2 反向???播算法小结;反向传播算法小结;反向传播算法小结;反向传播算法小结;反向传播算法小结;反向传播算法小结;3.3 反向传播算法的有关问题;串行方式;串行方式;集中方式;集中方式;停止准则;停止准则;停止准则;3.4 异或问题;异或问题;4 局部逼近神经网络;4.1 径向基函数神经网络;径向基函数神经网络;径向基函数神经网络;4.1.1 模式分类;模式分类描述;模式分类描述;异或问题;异或问题;4.1.2 插值问题;插值问题;重要的径向基函数;4.1.3 广义径向基函数神经网络;广义径向基函数网络;广义径向基函数网络;4.1.4 径向基函数网络学习策略;随机选取固定中心;随机选取固定中心;中心自组织选择;K-均值聚类算法;K-均值聚类算法;K-均值聚类算法;K-均值聚类算法;K-均值聚类算法;正则化径向基函数网络;4.1.5 RBF与多层感知器;RBF与MLP;RBF与MLP;4.2 小脑模型关节控制器;小脑模型;4.2.1 CMAC的结构与工作原理;CMAC结构;CMAC结构;CMAC隐层;CMAC输出层;CMAC感受域;4.2.2 CMAC非线性映射的实现;S→M（1-D）;S→M;多维情况;二维示例;M→A;二维地址空间;三维地址空间;联想空间相关性;4.2.3 维数灾难与物理映射;物理映射;CMAC的实质;CMAC与基函数;CMAC与基函数;5 递归神经网络;递归神经网络;递归神经网络;5.1 非线性动态系统;非线性动态系统;非线性动态系统的状态空间;状态空间;5.1.1 非线性动态系统的稳定性;平衡状态;二阶系统的平衡状态;二阶系统的平衡状态;二阶系统的平衡状态;稳定性 定义1;稳定性 定义2;稳定性 定义3;稳定性 定义4;5.1.1 Lyapunov定理;正定函数;Lyapunov定理1;Lyapunov定理2;Lyapunov函数;5.1.1 吸引子;吸引子;吸引子;吸引域与分界线;5.2 Hopfield网络;5.2.1 连续Hopfield网络;神经元的加性模型;神经元的加性模型;连续Hopfield网络;Hopfield模型;激活函数;双曲正切函数;激活函数的逆;激活函数的逆;5.2.2 连续Hopfield网络的稳定性;连续Hopfield网络的稳定性;连续Hopfield网络的稳定性;连续