数学建模 神经网络.pptVIP

神经计算的本质 神经网络的计算是一种非编程的信息处理方式。在不确定的条件下，只要我们能准确地描述所要求的计算功能，并能给出体现该功能的大量例子，那么神经网络就可以通过这些例子来进行自我调整，直至达到所要求的计算能力；有时甚至在没有例子可寻时，神经网络也可以根据一些输入信号通过自组织而达到某种计算能力。 神经计算的本质 上述这种非编程的自适应信息处理方式称之为神经计算（neurocomputing）。 如果把神经网络看成是由大量子系统组成的大系统，那么神经计算就是该系统状态的转换，其计算过程可以认为是状态的转换过程。 神经计算的特点 大规模并行性、集团运算和容错能力。 信息的分布式表示。 学习和自组织能力。 多层神经网络系统具有强大的解算能力 和处理实际问题的能力。 神经计算的信息处理能力 最优化问题的计算 这是用来求解局部甚至是全局最优解的，HOP模型、BCM 模型有能力进行这种计算。 第四节神经计算的稳定性 稳定性的基本概念 稳定性是指神经网络系统在进行神经计算时，系统最终能收敛到一个稳定状态。只有使整个神经网络系统的状态朝稳定状态发展的神经计算才是有用的，否则，将导致整个系统的振荡或者随机波动，而不能得到一个一致的结果。 从计算机的角度看稳定性 计算机具有许多可能的逻辑状态。当计算机系统时钟不断推进时，计算机就从一个逻辑状态转换到另一个逻辑状态。在计算机中，通过设置特定的逻辑初始状态开始计算（指令和数据）。然后计算机的状态就沿着事先确定的逻辑状态空间上的轨迹移动，直到得到答案，整个计算也就结束了。因而在计算机中的计算过程就是其逻辑状态空间中的一条轨迹。 从物理的角度看稳定性 从物理的角度来看，计算过程是其相应状态空间上状态变换的一条轨迹，这条轨迹的方向由该系统固有动力学特性控制着，其移动的结果是进入一稳定状态中，然后整个计算便结束了。 由该系统固有动力学特性控制着的各种物理系统可以展示不同的计算能力， 离散状态空间下的计算过程解释 S1 S2 S3 连续状态空间下计算过程的解释 S1 S2 S3 神经计算过程的数学描述 假定状态空间向量为X=(x1,x2,…,xn )T，系统的局部稳定点为ｘa,ｘb，…。只要系统初始点充分地靠近ｘi∈{ｘa,ｘb,…}，比如ｘin=ｘi+Δ（ｘin为系统初始点），则系统必随时间的演变而达到稳定点ｘi。这种稳定点也叫系统的吸引子或极小点。这里的ｘi+Δ代表了ｘi的部分知识，可以从系统中查询到其完整的知识，也就是说系统具有相联搜索的能力。 吸引子的物理含义图解1 吸引子的物理含义图解2 局部极小 全局极小 第五节 神经网络的研究历史 神经网络研究简史 从人脑的生理结构出发来研究人的智能行为，模拟人脑信息处理的功能，即人工神经网络的研究，始于本世纪四十年代，但它的发展却经历了一条曲折的道路，至今经历了兴起、萧条和兴盛三个时期。 (1)第一次热潮(40-60年代未)  1943年,美国心理学家W.McCulloch和数学家W.Pitts在提出了一个简单的神经元模型，即MP模型。1958年，F.Rosenblatt等研制出了感知机(Perceptron）。 (2)低潮(70-80年代初): Minsky发表《感知器》一书，证明已有感知器模型无法解决简单的分类问题。ANN研究陷入低潮。 Minsky在80年代表示很遗憾。 (3)第二次热潮 1982年，美国物理学家J.J.Hopfield提出Hopfield模型，它是一个互联的非线性动力学网络他解决问题的方法是一种反复运算的动态过程,这是符号逻辑处理方法所不具备的性质. 1987年首届国际ANN大会在圣地亚哥召开，国际ANN联合会成立，创办了多种ANN国际刊物。 第六节 神经网络的应用领域 神经网络潜在应用领域 传感器信息处理 信号处理 自动控制 知识处理 市场分析 运输与通信 神经科学和生物学 神经网络潜在应用领域 娱乐。比如下棋、打牌等。 零售分析。用神经网络来分析各种商品 的零售量及价格。 信用分析。 航空与航天。 医用诊断系统。 * * 神经网络基本概念 什么是人工神经网络？ T.Koholen的定义：“人工神经网络是由 具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。” 神经网络模型的基本组成 之神经元 生物神经元的基本组成 细胞体 突起 树突 轴突 人工神经元的基本结构 处理单元 连接 输入 输出 神经元的