清华人工神经网络电子讲稿.ppt

人工神经网络 Artificial Neural Networks 蒋宗礼 软件学科部 联系电话Email：jiangzl@bjpu.edu.cn 办公地点：信息北楼214 教材 书名：《人工神经网络导论》 出版社：高等教育出版社 出版日期：2001年8月 定价：12.4元 作者：蒋宗礼 主要参考书目 1、Philip D. Wasserman， Neural Computing: Theory and Practice，Van Nostrand Reinhold，1989 2、胡守仁、余少波、戴葵，神经网络导论，国防科技大学出版社，1993年10月 3、杨行峻、郑君里，人工神经网络，高等教育出版社，1992年9月 4、闻新、周露、王丹力、熊晓英，MATLAB神经网络应用设计，科学出版社，2001.5. 课程目的和基本要求 作为人工神经网络的入门课程，用于将学生引入人工神经网络及其应用的研究领域。 介绍人工神经网络及其基本网络模型，使学生 了解智能系统描述的基本模型 掌握人工神经网络的基本概念、单层网、多层网、循环网等各种基本网络模型的结构、特点、典型训练算法、运行方式、典型问题 掌握软件实现方法。 课程目的和基本要求 了解人工神经网络的有关研究思想，从中学习开拓者们的部分问题求解方法。 通过实验进一步体会有关模型的用法和性能，获取一些初步的经验。 查阅适当的参考文献，将所学的知识与自己未来研究课题（包括研究生论文阶段的研究课题）相结合起来，达到既丰富学习内容，又有一定的研究和应用的目的。 主要内容 智能及其实现 ANN基础 Perceptron BP CPN 统计方法 Hopfield网与BAM ART 主要内容 第一章：引论 智能的概念、智能系统的特点及其描述基本模型，物理符号系统与连接主义的观点及其比较；人工神经网络的特点、发展历史。 主要内容 第二章 人工神经网络基础 本章在介绍了基本神经元后，将概要介绍人工神经网络的一般特性。主要包括，生物神经网络模型，人工神经元模型与典型的激励函数；人工神经网络的基本拓扑特性，存储类型（CAM──LTM，AM──STM）及映象，Supervised训练与Unsupervised训练。 主要内容 第三章 感知器 感知器与人工神经网络的早期发展；单层网能解决线性可分问题，而无法解决线形不可分问题，要想解决这一问题，必须引入多层网；Hebb学习律，Delta规则，感知器的训练算法。 实验：实现一个感知器。 主要内容 第四章 向后传播 BP（Backpropagation）网络的构成及其训练过程；隐藏层权调整方法的直观分析，BP训练算法中使用的Delta规则（最速下降法）的理论推导；算法的收敛速度及其改进讨论；BP网络中的几个重要问题。 实验：实现BP算法。 主要内容 第五章 对传网 生物神经系统与异构网的引入；对传网的网络结构，Kohonen层与Grossberg层的正常运行，对传网的输入向量的预处理，Kohonen层的训练算法及其权矩阵的初始化方法；Grossberg层的训练；完整的对传网。 实验：实现基本的对传网。 主要内容 第六章 统计方法 统计方法是为了解决局部极小点问题而引入的，统计网络的基本训练算法，模拟退火算法与收敛分析，Cauchy训练，人工热处理与临界温度在训练中的使用，BP算法与Cauchy训练相结合。 实验：实现模拟退火算法。 主要内容 第七章 循环网络 循环网络的组织，稳定性分析；相联存储；统计Hopfield网与Boltzmann机；Hopfield网用于解决TSP问题。 BAM(Bidirectional Associative Memory)用于实现双联存储；基本双联存储网络的结构及训练；其他的几种相联存储网络。 实验：实现一个Hopfield网。 主要内容 第八章 自适应共振理论 人脑的稳定性与可塑性问题；ART模型的总体结构与分块描述；比较层与识别层之间的两个联接矩阵的初始化，识别过程与比较过程，查找的实现；训练讨论。 第1章??? 引言 主要内容： 智能与人工智能； ANN的特点； 历史回顾与展望 重点： 智能的本质； ANN是一个非线性大规模并行处理系统 难点：对智能的刻画 第1章??? 引言 1.1 人工神经网络的提出 1.2 人工神经网络的特点 1.3 历史回顾 第1章??? 引言 人类对人工智能的研究可以分成两种方式对应着两种不同的技术： 传统的人工智能技术——心理的角度模拟 基于人工神经网络的技术——生理的角度模拟 1.1 人工神经网络的提出 人工神经网络（Artificial Neural Networks，简记作ANN），是对人类大脑系统的一阶特性的一种描述。简单地讲，它是一