神经网络第一章课件1.pptVIP

人工神经网络基础 陈 炜 Telephone: E-mail: chenw203@ 课时安排: 48学时, 1~16周。 参考书目： 最新中文书籍； Neural Networks: A Comprehensive Foundation(Second Edition) Simon.Haykin 清华大学出版社, 2001; 相关刊物。 第一章 概述 Artificial Neural Network, 简记ANN; Connectionism Model, 连接机制模型 Parallal Distributed Model, 并行分布处理模型 §1.1 人工神经网络概念的提出 现代计算机有很强的计算、信息处理能力，但是 解决像模式识别、感知、评判和决策等复杂问题的能力却远不如人； 只能按人事先编好的程序机械地执行，缺乏向环境学习适应环境的能力。 人脑 生物进化的最高产物； 最复杂、最完善和最有效的信息处理系统； 高级精神活动（智能、思维和情绪等）的物质基础； 人类认识较少的领域之一。 根据19世纪末创建的神经元学说： 人脑由大约1011～1012 神经元和1014～1015个突触组成的巨系统。 人脑的固有特征： 1.并行分布处理 单个神经细胞反应速度:10-3s 电子元件计算速度: 10-9s 决策过程只需1秒：记忆回溯、语言理解、直觉推理、图像识别等； 从部分信息构造人和物的图像。 100步程序长度（J.A.Feldman）: 串行工作模式没有这么快的反应能力。 2.可塑性和自组织性: 突触的信息传递特性可变，细胞间联接是柔 软的。 3. 系统性: 相互作用; 调节。 4. 系统的恰当退化： 少量神经元损伤（或正常死亡），网络总 体功能继续有效。 人脑与计算机信息处理能力的比较 1.记忆与联想能力 2.学习与认知能力 3.信息加工能力 4.信息综合能力 5.信息处理速度 人脑与计算机信息处理机制的比较 1.系统结构 2.信号形式 3.信息存储 4.信息处理机制 从大脑组织结构和运行机制的绝妙特点，追求新型的信号处理系统： 超越人的计算能力，探寻新的信息表示、存储和处理方式，设计全新的计算处理结构模型； 类似于人的识别、判断、联想和决策的能力，解决传统的冯·诺依曼计算机难以解决的问题。 对神经网络的分析和研究： 揭示人脑的工作机理； 了解神经系统进行信息处理的本质。 目的：设计类似人脑某些功能的智能系统。 微观（结构）：与生物神经网络拓扑一致； 宏观功能：与人类智能行为恰当对应。 用机器代替人脑的部分劳动是当今科学技术发展的重要标志。 仅用人工的机械系统完全模拟人脑是不可能的！ 以人脑的组织结构和功能特征为原型，设法构建与人脑结构和功能拓扑对应的人造智能系统来模拟人类智能行为。原则上讲，是智能模拟中一个很有前途的发展方向。 智能模拟研究的两条不同途径： 1. 心理学派： 人类的智能行为本质上是以思维为主要特征的一 系列心理活动的结果。 这一模式的典型：人工智能学科 智能模拟方式： 传统的冯? 诺依曼(Von Neumann)计算机体现机构为基础; 逻辑推理和符号操作为特征。 在模拟实现人的学习能力、联想记忆能力和人脑大规模并行处理能力等功能时，遇到困难。 2.生理学模式: 典型: 人工神经网络, 当前被认为是很有发展 前途的另一种智能模拟方法。 人们通过对人脑神经系统的初步认识，尝试 构造人工神经元，组成人工神经网络系统， 对人的智能、思维行为进行研究，试图从理 性角度阐明人脑的高级功能。 Hecht Nielsen关于人工神经网络的定义: “神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统, 该系统是靠其状态对外部输入信息的动态响应来处理信息的” 美国国防高级研究计划局关于人工神经网络的解释是:“人工神经网络是一种由许多简单的并行工作的处理单元组成的系统,其功能取决于网络的结构、连接强度以及各单元的处理方式。” 综合人工神经网络的来源、特点及各种解释，可以简单表述为：人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统。 目前有上百种ANN模型： 基本处理单元：人工神经元----对生物神经元的近似仿真。 人工神经元有不同的模型：算法在不同程度上或多或少地接近神经信息处理的原则。 输出信号的强度大小：反映该单元对相邻单元影响的强弱。 人工神经元之