常见的神经网络+数学建模模型及算法简介.ppt

神经网络算法简介 一、引例 问：若抓到三只新的蚊子，它们的触角长和翼长分别为(1.24,1.80); (1.28，1.84)；（1.40，2.04）．问它们应分别属于哪一个种类？ 思路： 分类结果：(1.24，1.80)，(1.28，1.84)属于Af类；(1.40，2.04）属于 Apf类． ?缺陷：根据什么原则确定分类直线？ 再如，如下的情形能不能用分类直线的办法呢？ 人工神经网络模型 前言 所谓人工神经网络就是基于模仿生物大脑的结构和功能而构成的一种信息处理系统。 粗略地讲，大脑是由大量神经细胞或神经元组成的。每个神经元可看作是一个小的处理单元，这些神经元按某种方式连接起来，形成大脑内部的生理神经元网络。 这种神经元网络中各神经元之间联结的强弱，按外部的激励信号做自适应变化，而每个神经元又随着所接收到的多个接收信号的综合大小而呈现兴奋或抑制状态。 生物神经网 基本工作机制： 一个神经元有两种状态——兴奋和抑制 平时处于抑制状态的神经元，当接收到其它神经元经由突触传来的冲击信号时，多个输入在神经元中以代数和的方式叠加。 进入突触的信号会被加权，起兴奋作用的信号为正，起抑制作用的信号为负。 如果叠加总量超过某个阈值，神经元就会被激发进入兴奋状态，发出输出脉冲，并由轴突的突触传递给其它神经元。 人工神经网络的生物学基础 神经网络的基本思想 人工神经元的基本构成： 人工神经元－信息处理单元 人工神经元－信息处理单元 人工神经元－信息处理单元 人工神经元－信息处理单元 人工神经元－信息处理单元 人工神经元－信息处理单元 神经元的传递函数 f（X）是激发函数；它可以是线性函数，也可以是非线性函数．例如，若取激发函数为符号函数 神经元的传递函数 S型传递函数 注：一个神经元含有与输入向量维数相同个数的权系数，若将阈值看作是一个权系数，-1是一个固定的输入，另有n-1个正常的输入，则式也可表示为： ‘ 简单原理 人工神经网络是根据人的认识过程而开发出的一种算法。 假如我们现在只有一些输入和相应的输出，而对如何由输入得到输出的机理并不清楚，那么我们可以把输入与输出之间的未知过程看成是一个“网络”，通过不断地给这个网络输入和相应的输出来“训练”这个网络，网络根据输入和输出不断地调节自己的各节点之间的权值来满足输入和输出。这样，当训练结束后，我们给定一个输入，网络便会根据自己已调节好的权值计算出一个输出。这就是神经网络的简单原理。 神经网络的作用 网络说话 人们把一本教科书用网络把它读出来（当然需要通过光电，电声的信号转换）；开始网络说的话像婴儿学语那样发出“巴、巴、巴”的声响；但经过B－P算法长时间的训练竟能正确读出英语课本中 90％的词汇． 从此用神经网络来识别语言和图象形成一个新的热潮。 人工神经网络基本特点 （1）可处理非线性 人工神经网络的分类 按网络连接的拓扑结构分类： 层次型结构：将神经元按功能分成若干层，如输入层、中间层（隐层）和输出层，各层顺序相连 人工神经网络的分类 按网络内部的信息流向分类： 前馈型网络：网络信息处理的方向是从输入层到各隐层再到输出层逐层进行 人工神经网络的工作原理 人工神经网络的工作原理到底是怎样的，我们可以从一个最简单的网络来剖析，一定程度上打开这个黑匣子。 1958年，美国心理学家Frank Rosenblatt提出一种具有单层计算单元的神经网络，称为Perceptron，即感知器。 感知器是模拟人的视觉接受环境信息，并由神经冲动进行信息传递的层次型神经网络。 单层感知器的结构与功能都非常简单，以至于在解决实际问题时很少采用，但由于它在神经网络研究中具有重要意义，是研究其它网络的基础，常作为学习神经网络的起点。 人工神经网络的工作原理 感知器模型(单层前向神经网络） 人工神经网络的工作原理 感知器模型 净输入： 输出为： Tj为阀值，sgn为符号函数 人工神经网络的工作原理(C.) 感知器模型 具体的： 设输入向量X=(x1 ,x2)T 输出： 则由方程w1jx1+w2jx2-Tj=0确定了二维平面上的一条分界线 人工神经网络的工作原理 感知器模型 具体的： 则由方程w1jx1+w2jx2-Tj=0确定了二维平面上的一条分界线(Why?) w1j x1+w2j x2 – Tj = 0 w1j x1 = Tj - w2j x2 x1 = (Tj -w2j x2) / w1j = - ( w2j/ w1j ) x2 +Tj / w1j = a x2 +c 人工神经网络的工作原理 感知器模型