1神经网络概述解析.ppt

神经网络理论Neural Network Theory   适用领域：计算机技术 先修课程：高等数学、离散数学、C语言（或Matlab）程序设计、 一、课程目的与要求 人工神经网络是目前国际上一门发展迅速的前沿交叉学科。它是模拟生物神经结构的新型计算机系统，目前已有广泛的应用。 本课程主要介绍人工神经网络的基本构成和基本的网络模型，是在分析单元的生物背景、结构的基础上，强调设计考虑、算法公式及应用。本课程的主要目的是：使学生 1、了解智能系统描述的基本模型； 2、掌握人工神经网络的基本概念、单层网、多层网、循环网等各种基本网络模型的结构、特点、典型训练算法、运行方式、典型问题解决方法； 3、掌握软件实现方法； 为他们今后从事人工神经网络的研究和应用打下一定的基础。 二、教学内容 MATLAB神经网络工具箱 神经网络概述 感知机 线性神经网络 BP神经网络 RBF网络 竞争网络 反馈神经网络(Hopfield) 随机神经网络（Boltzman) 遗传算法、PSO与神经网络优化 三、主要参考书 神经网络设计 Hagan 机械工业出版社 MATLAB神经网络原理与实例精解 陈明 清华大学出版社 MATLAB神经网络应用设计 张德丰 机械工业出版社 MATLAB神经网络应用设计 闻新 科学出版社 人工神经网络导论 蒋宗礼 高等教育出版社 人工神经网络与模拟进化计算 阎平凡 清华大学出版社 人工神经网络教程 韩力群 北京邮电大学出版社 神经网络 侯媛彬 西安电子科技大学出版社 学习要求 阅读10~15篇文献（查阅适当的参考文献，将所学的知识与自己未来研究课题（包括研究生论文阶段的研究课题）相结合起来，达到既丰富学习内容，又有一定的研究和应用的目的） 思考题 计算机练习，结合Matlab应用 考核 试卷形式 第一章 神经网络概述 §1.1智能的概念 智能是个体有目的的行为，合理的思维，以及有效的适应环境的综合能力。也可以说，智能是个体认识客观事物和运用知识解决问题的能力。 人工神经网络从以下四个方面去模拟人的智能行为 §1.2 人工神经网络的基本概念 计算机与人脑相比存在某些缺陷 1、计算机串行的工作方式决定了它只具有“逻辑思维”能力，而不具有“形象思维”能力。 2、计算机只能“被动”的执行人为它编写好的程序，没有“主动”的“学习”能力。 3、计算机“一对一”的信息存储方式使得它没有容错性。 什么是神经网络？Artificial Neural Networks，ANN 目前关于人工神经网络的定义尚不统一 由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统，该系统是靠其状态对外部输入信息的动态响应来处理信息的。 一种由许多简单的并行工作的处理单元组成的系统，其功能取决于网络的结构、连接强度以及其各单元的处理方式 是一种旨在模仿人脑结构及其功能的信息处理系统 是一个非线性的有向图，图中含有可以通过改变权大小来存放模式的加权边，并且可以从不完整的或未知的输入找到模式。 特点 a、传统计算机的‘存储’与‘计算’是独立分开的，因而在‘存储’与‘计算’之间存在“瓶颈”。 而在ANN中，信息的‘存储’与‘处理(计算)’是合二为一的。不论单个神经元还是整个神经网络都兼有信息处理(计算)和存储的双重功能。因此，从本质上解决了传统计算机无法解决的“瓶颈”问题。 b、在ANN中，同一个信息“分布式”的存储在各个神经元之间的“连接权”上，因此ANN具有很强的容错性。任何局部的损伤不会影响整体结果。 C、在ANN中，所有 “连接权”同时完成信息的‘存储’、‘计算’、‘传递’的功能， 是“并行式”或者“集体式”的工作方式。因此，比‘串行式’工作方式的传统计算机速度要快的多。 D、 ANN工作时不需要编程，通过对环境的学习，将信息存在网络的“连接权”中。有很强自适应能力。 §1.3 人工神经网络的研究历史 从19世纪末开始，神经网络的发展史可以分为 四个时期： 启蒙时期（1890～1969） 低潮时期（1969～1982） 复兴时期（1982～1986） 高潮时期（1987～ ） 从神经网络的发展历史可以看出它与神经生理学、数学、电子学、计算机科学以及人工智能学之间的联系。 1、启蒙时期 1890年，美国心理学家William James发表了第一部详细论述人脑结构及功能的专著《心理学原理》(Princip