第4章 神经计算解读.pptVIP

第4章 神经计算 1 人工神经网络基础 2 感知器 3 BP神经网络 4.1人工神经网络基础 人工神经网络是人脑及其活动的一个理论化的数学模型，它由大量的处理单元通过适当的方式互连构成，是一个大规模的非线性自适应系统。 是一个并行、分布处理结构，它由处理单元及称为连接的无向信号通道互连而成。 4.1.1人工神经元网络模型 4.1.2几个问题 1）学习能力 2）普化能力 3）信息的分布存放 4）适用性 学习能力 可以根据所在的环境取改变它的行为。也就是说，人工神经网络可以接受用户提交的样本集合，依照系统给定的算法，不断修正用来确定系数行为的神经元之间的连接强度，而且在网络的基本构成确定之后，这种改变是根据其接受的样本集合自然进行的。 在学习过程中，人工神经网络不断从所接受的样本集合中提取该集合所蕴含的基本内容，并将其以神经元之间的连接权重的形式存放于系统中。 对于不同的人工神经网络模型来说，有不同的学习/训练算法，有事，同种结构的网络拥有不同的算法，以适应不同的应用要求。对一个网络模型来说，其学习/训练算法是非常重要的。 普化能力 由于其运算的不精确性，人工神经网络在被训练后，对输入的微小变化是不反应的。与事物的两面性相对应，虽然在要求高精度计算时，这种不精确性是一个缺陷，但是，有些场合又可以利用这一点获取系统的良好性能。例如，可以使这种不精确性表现成“去噪声，容残缺”的能力，而这对模式识别有时恰好是非常重要的。 适用性 人工神经网络擅长于处理适用形象思维的问题。主要包括两个方面： 1）对大量的数据进行分类，并且只有较少的几种情况。 2）必须学习一个复杂的非线性映射。 4.1.3人工神经元模型 基本构成 激活函数 M-P模型 基本构成 激活函数 神经元在获得网络输入后，它应该给出适当的输出。按照生物神经元的特性，每个神经元有一个阈值，当该神经元所获得的输入信号的累积效果超过阈值时，它就处于激发态；否则，应该处于抑制态。为了使系统有更宽的适用面，希望人工神经元有一个更一般的变换函数，用来执行对该神经元所获得的网络输入的变换，这就是激活函数，也可以称之为激励函数、活化函数，用f表示： 式中，o是该神经元的输出。由此式可以看出，此函数同时也用来将神经元的输出进行放大处理或限制在一个适当的范围内。典型的激活函数有线性函数、非线性斜面函数、阶跃函数和S形函数等4种。 M-P模型 4.1.4 网络拓扑结构 单级网 多级网 循环网 简单单级网 多级前馈网 4.1.5人工神经网络的训练 人工神经网络最具有吸引力的特点是其学习能力。 人工神经网络的学习过程就是对它的训练过程。所谓训练，就是在将由样本向量构成的样本集合（简称为样本集、训练集）输入到人工神经网络的过程中，按照一定的方式去调整神经元之间的连接权，使得网络能将样本集的内涵以连接权矩阵的方式存储起来，从而使得在网络接受输入时，可以给出适当的输出。 从学习的形式来看，一种是有导师学习，另一种是无导师学习，后者较为低级。 无导师学习 有导师学习 4.2 感知器 感知器是最早被设计并被实现的人工神经网络。 学习算法 线性不可分问题 感知器结构图 4.2.1学习算法 离散单输出感知器训练算法 离散多输出感知器训练算法 连续多输出感知器训练算法 离散单输出感知器训练算法 离散多输出感知器训练算法 连续多输出感知器训练算法 * * *