人工神经网络PPT.pptVIP

1.1.3 人工神经网络的特点 1.1.4 人工神经网络的基本原理 人工神经网络(Artificial Neural Networks,or ANN)是对人类大脑系统一阶特性的一种描述。 简单的讲，它是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能的一种方法。 什么是人工智能？ 人工智能（Artificial Intelligence,or AI）最初是在1956年被引入的，它研究怎样用计算机，模拟人脑从事推理、设计、思考、学习等思维活动，以解决和处理较复杂的问题，简单的说，人工智能就是让计算机模仿人脑进行工作。 联接主义观点： 在现代神经科学的研究成果基础上，人们提出了一种观点认为：智能的本质是联接机制。神经网络是一个由大量简单的处理单元，组成的高度复杂的大规模非线性自适应系统。 人工智能的代表学派 一、符号主义（或逻辑主义）学派 二、连接主义(或并行分布处理主义）学派 三、进化主义（或行动/响应)学派 典型生物的神经元 生物神经元结构与功能特点 生物神经元在结构上由四部分组成： 细胞体（cell body） 树突（dendrite） 轴突（Axon） 突触（synapse） 用来完成神经元间信息的接收、传递和处理。人类大脑皮层约有100亿个神经元，60亿突触以及它们的连接体。 1.2 人工神经网络基本模型 一、MP模型 MP模型属于一种阈值元件模型，它是提出的最早神经元模型之一。MP模型是大多数神经网络模型的基础。 神经元的数学模型 激活函数（Activation Function） 线性函数（Liner Function） 非线性斜面函数（Ramp Function） 阈值函数（Threshold Function） S型函数（Squaing Function） etc 人工神经网络的基本构成 人工神经元模拟生物神经元的一阶特性。 输入：X=（x1，x2，…，xn） 联接权：W=（w1，w2，…，wn）T 网络输入： net=∑xiwi 向量形式： net=XW 2.2.2 激活函数(Activation Function) 1、线性函数（Liner Function） f（net）=k*net+c 2、非线性斜面函数(Ramp Function) γ if net≥θ f（net）= k*net if |net|θ -γ if net≤-θ ? γ0为一常数，被称为饱和值，为该神经元的最大输出。 2、非线性斜面函数（Ramp Function） γ 3、阈值函数（Threshold Function）阶跃函数 β if netθ f（net）= -γ if net≤ θ β、γ、θ均为非负实数，θ为阈值 二值形式： 1 if netθ f（net）= 0 if net≤ θ 双极形式： 1 if netθ f（net）= -1 if net≤ θ 3、阈值函数（Threshold Function）阶跃函数 β 4、S形函数 2 感知器模型 感知器是一种早期的神经网络模型，由美国学者F.Rosenblatt于1957年提出.感知器中第一次引入了学习的概念，使人脑所具备的学习功能在基于符号处理的数学模型中得到了一定程度的模拟，所以引起了广泛的关注。 简单感知器 简单感知器模型实际上仍然是MP模型的结构，但是它通过采用监督学习来逐步增强模式划分的能力，达到所谓学习的目的。 多层感知器 如果在输入和输出层间加上一层或多层的神经元(隐层神经元)，就可构成多层前向网络，这里称为多层感知器。  这里需指出的是：多层感知器只允许调节一层的连接权。这是因为按感知器的概念，无法给出一个有效的多层感知器学习算法。 4、人工神经网络的基本特点 （1）可处理非线性 4.2.1 网络的构成 神经元的网络输入： neti=x1w1i+x2w2i+…+xnwni 神经元的输出： 输出函数分析 应该将net的值尽量控制在收敛比较快的范围内 可以用其它的函数作为激活函数，只要该函数是处处可导的 BP神经网络-简单单级网 BP学习算法 1 权值初始化； 2 依次输入p个学习样本； 3 依次计算各个层的输出； 4 求各个层的反传误差； 5 记录已经学习过的样本数p，若pP,则转到步骤2，若p=P则转到步骤6； 6 按照权值修整公式修整各个层的权值或阈值； 7 按照新的权值再计算，当达到误差要求或最大学习次数，则终止学习，负责