神经网络与遗传算法-课件.pptVIP

人工神经网络与遗传算法 课程内容 第1章 概述 1. 1 人工神经网络研究与发展 1. 2 生物神经元 1. 3 人工神经网络的构成 第2章 人工神经网络基本模型 2. 1 感知器模型 2. 2 线性神经网络 2. 3 BP神经网络 2. 4 其他神经网络 2、特征 (1) 并行分布处理 大脑中单个神经元的信息处理速度是很慢的，每次约1毫秒，比通常的电子门电路要慢几个数量级。但是人脑对某一复杂过程的处理和反应却很快，一般只需几百毫秒。而在这个处理过程中，与脑神经系统的一些主要功能，如视觉、记亿、推理等有关。按照上述神经元的处理速度，如果采用串行工作模式，就必须在几百个串行步内完成，这实际上是不可能办到的。因此只能把它看成是一个由众多神经元所组成的超高密度的并行处理系统。例如在一张照片寻找一个熟人的面孔，对人脑而言，几秒钟便可完成，但如用计算机来处理，以现有的技术，是不可能在短时间内完成的。 (2) 神经系统的可塑性和自组织性 从生理学的角度看，它体现在突触的可塑性和联接状态的变化。例如在某一外界信息反复刺激下．接受该信息的神经细胞之间的突触结合强度会增强。这种可塑性反映出大脑功能既有先天的制约因素，也有可能通过后天的训练和学习而得到加强。 (3) 信息处理与信息存贮合二为一 由于大脑神经元兼有信息处理和存贮功能，所以在进行回亿时，不但不存在先找存贮地址而后再调出所存内容的问题，而不像现行计算机那样．存贮地址和存贮内容是彼此分开的。 2、ANN研究与应用的主要内容 (1) 人工神经网络模型的研究 ? 神经网络原型研究，即大脑神经网络的 生理结构、思维机制。 ? 神经元的生物特性如时空特性、电化 学性质等的人工模拟。 ? 易于实现的神经网络计算模型。 ? 神经网络的学习算法与学习系统。 (2) 神经网络基本理论 ? 神经网络的非线性特性，包括自组织、自适应等作用。 ? 神经网络的基本性能，包括稳定性、收敛性、容错性、鲁棒性、动力学复杂性。 ? 神经网络的计算能力与信息存贮容量。 待 (3) 神经网络智能信息处理系统的应用 ? 认知与人工智能，包括模式识别、计算机视觉与听觉、特征提取、语音识别语言翻译、联想记忆、逻辑推理、知识工程、专家系统、故障诊断、智能机器人等。 ? 优化与控制，包括决策与管理、系统辨识、鲁棒性控制、自适应控制、并行控制、分布控制等。 ? 信号处理，自适应滤波、时间序列预测、消噪、非线性预测、非线性编码等。 (4) 神经网络的软件模拟和硬件实现 (5) 神经网络计算机的实现 4、ANN的信息处理能力 存贮能力和计算能力是现代计算机科学中的两个基本问题，同样，它们也构成了人工神经网络研究中的基本问题。人工神经网络的信息处理能力包括两方面的内容： ? 神经网络信息存贮能力 即要解决这样的一个问题：在一个有N个神经元的神经网络中，可存贮多少值的信息? ? 神经网络的计算能力 （1）神经网络的存贮能力 定义：一个存贮器的信息表达能力定义为其可分辨的信息类型的对数值。 在一个M×1的随机存贮器RAM中，有M位地址，一位数据，它可存贮2M位信息。M×1的RAM的存贮能力为：C＝2M(位)。 定理1 N个神经元的神经网络的信息表达能力上限为： C＜ (位)。 定理2 N个神经元的神经网络的信息表达能力下限为： C (位)。 其中[N／2]指小于或等于N／2的最大整数。 定理3 神经网络可以存贮2N-1个信息，也可以区分2N-1个不同的网络。 （2）神经网络的计算能力 ● 数学的近似映射 ● 概率密度函数的估计 ● 从二进制数据基中提取相关的知识 ● 形成拓扑连续及统计意义上的同构映射 ● 最近相邻模式分类 ● 数据聚类 ● 最优化问题 用来求解局部甚至是全局最优解。 2. 1 感知器模型 感知器是一种早期的神经网络模型，由美国学者F.Rosenblatt于1957年提出.感