第一章：神经网络基础讲述.ppt

神经网络与遗传算法 山东大学控制科学与工程学院 课程目的和基本要求 神经网络在信号处理、自动控制、模式识别等领域中具有广泛的应用前景。本课程将学生引入人工神经网络及其应用的研究领域。 介绍人工神经网络基本概念及其基本网络模型的结构、特点、典型训练算法、运行方式、典型问题等。 了解人工神经网络的有关研究思想，从中学习开拓者们的部分问题求解方法。 课程目的和基本要求 通过实验进一步体会有关模型的用法和性能，获取一些初步的设计经验。 查阅适当的参考文献，将所学的知识与自己未来的研究课题（包括研究生论文阶段的研究课题）相结合起来，达到既丰富学习内容，又有一定研究和应用的目的。 授课方式 讲授与课后自学相结合 注意听讲和记笔记。 自学包括：1）看最新文献（中、英文），形成word文档；2）课后作业（不定期），形成程序代码，并写明如何使用该文件。 期末考试：1）考试；2）论文（综述）。 总学时：32学时 其中课堂讲授：26学时；课后练习：6学时。 参考书目 《人工神经网络》高等教育出版社 1992 杨行俊 郑君里 《人工神经网络-第六代计算机的实现》科普出版社1993 周继成 《神经网络系统理论》 西安电子科大出版社 1992 焦李成 《神经元网络控制》机械工业出版社 1998 王永骥 徐建 第一章：神经网络基础 一 序言 二 神经网络的发展史及研究现状 三 神经元数学模型 四 神经网络的构成原理 五 神经网络的功能及特点 第一节 序言 第一节 序言 第二节 神经网络的发展史及研究现状 第二节 神经网络的发展史及研究现状 第二节 神经网络的发展史及研究现状 1951年，在普林斯顿大学数学系做研究生 构建了第一台基于模拟突触增强原理的随机连线网络学习机（SNARC），被称为第一台神经网络计算机。用了3000个电子管和受特殊激励的40个人工神经元组成的网络 论文《神经-模拟增强系统的理论及其在脑模型上的应用》 二十世纪70年代和80年代早期的研究结果，表明了认识规律：认识——实践——再认识。 第二节 神经网络的发展史及研究现状 John hopfield 美国科学院院士，生物物理学家、心理学家 他在Gold Spring海港实验室码头准备讲稿（照片由他本人提供，2004年摄） 第二节 神经网络的发展史及研究现状 第二节 神经网络的发展史及研究现状 第二节 神经网络的发展史及研究现状 第二节 神经网络的发展史及研究现状 第二节 神经网络的发展史及研究现状 第二节 神经网络的发展史及研究现状 第二节 神经网络的发展史及研究现状 第二节 神经网络的发展史及研究现状 第三节 神经元数学模型（ANN） 一　神经网络定义：基于模仿生物大脑的结构或功能构成的信息处理系统或计算机。 80年代美国的H.Nidsen定义：神经网络是由多个非常简单的处理单元（神经元）彼此以某种方式相联接而形成的计算机系统。该系统是靠其状态对外部输入信息的动态响应来处理信息的。 第三节 神经元数学模型（ANN） 第三节 神经元数学模型（ANN） 第三节 神经元数学模型（ANN） 第三节 神经元数学模型（ANN） 第三节 神经元数学模型（ANN） 第j路输入信号， 从第j路与第i个神经元的连接权， 第i个神经元的阈值， 第i个神经元的输出。 第三节 神经元数学模型（ANN） 数学模型MP模型：1943年由美国心理学家Mcloch和数学家Pitts提出的。 其中常用的有阈值型，sgnx为符号函数。 第三节 神经元数学模型（ANN） 四 人工神经元与生物神经元区别 （1）模型传递的是模拟信号，生物输入输出均 为电脉冲 （2）没有考虑其不应期，时滞，疲劳现象。 （3）只考虑空间叠加性，没有考虑时间迭加。 第四节 神经网络的构成原理 本节主要从构成神经网络的一些规则和算法来介绍神经网络的构成原理！ 一：传播规则:用来描述从外部输入到净输入的产生规则。 二：神经网络的输出函数 三：神经网络的连接方式 四：神经网络的学习规则 第四节 神经网络的构成原理 PDP模型：1986年由Rumelhart提出PDP分布式并行处理神经网络模型，有8条原则。主要介绍核心的4条。 一：传播规则:用来描述从外部输入到净输入的产生规则。 二：神经元的输出函数（3种类型） 1 静态映射关系模型 第四节 神经网络的构成原理 2 动态系统模型：差分方程的形式 3 概率统计模型：如随机网络，输出按Beltzmann分布 另外，从输出与输入静特性上又分为3类 线性函数： 第四节 神经网络的构成原理 硬限幅函数（阈值函数） 阶跃函数1（.）