中科院学习课件模式识别第六精要.ppt

第六章 人工神经网络 6.1 概述 6.1.1 什么是人工神经网络 所谓人工神经网络就是基于模仿生物大脑的结构和功能而构成的一种信息处理系统（计算机）。 人是地球上具有最高智慧的动物，而人的指挥均来自大脑，人类靠大脑进行思考、联想、记忆和推理判断等，这些功能是任何被称为“电脑”的一般计算机所无法取代的。 长期以来，许多科学家一直致力于人脑内部结构和功能的探讨和研究，并试图建立模仿人类大脑的计算机，虽然到目前对大脑的内部工作机理还不甚完全清楚，但对其结构已有所了解。 6.1 概述 6.1.1 什么是人工神经网络 粗略地讲，大脑是由大量神经细胞或神经元组成的。 每个神经元可看作是一个小的处理单元，这些神经元按某种方式连接起来，形成大脑内部的生理神经元网络。 这种神经元网络中各神经元之间联结的强弱，按外部的激励信号做自适应变化，而每个神经元又随着所接收到的多个接收信号的综合大小而呈现兴奋或抑制状态。 现已明确大脑的学习过程就是神经元之间连接强度随外部激励信息做自适应变化的过程，而大脑处理信息的结果则由神经元的状态表现出来。 6.1 概述 6.1.1 什么是人工神经网络 由于我们建立的信息处理系统实际上是模仿生理神经网络，因此称它为人工神经网络。 需要指出，尽管人工神经网络是对大脑结构的模仿，但这种模仿目前还处于极低的水平。 按美国神经网络学者Nielsen的定义 人工神经网络是一个并行、分布处理结构，它由处理单元及其称为联接的无向讯号通道互连而成。 这些处理单元具有局部内存，可以完成局部操作，即它必须仅仅依赖于经过输入联接到达处理单元的所有输入信号的当前值和存储在处理单元局部内存中的值。 每个处理单元有一个单一的输出联接，输出信号可以是任何需要的数学模型。 6.1 概述 6.1.1 什么是人工神经网络 人工神经网络与一般计算机的区别 在一般的计算机中，通常有一个中央处理器，它可访问其存储器。 该处理器可取一条指令和该指令所需的数据，并执行该指令，最后将计算结果存入指定的存储单元中。 任何动作都按照确定的操作程序，以串行方式执行。 6.1 概述 6.1.1 什么是人工神经网络 人工神经网络与一般计算机的区别 在人工神经网络中，操作既不是串行的，也不是预先确定的，它根本没有确定的存储器，而是由许多互连的简单处理单元组成。 每个处理单元的处理功能只是求其所有输入信号的加权和，当该和值超过某一阈值时，输出呈现兴奋状态（高电平），否则低于阈值时呈现抑制状态（低电平）。 人工神经网络并不执行指令序列，它对并行加载的输入信号也按并行方式来处理和响应，结果也不存储在特定的存储单元中。当它达到某种平衡状态后，网络的整个状态就是所求的结果。 目前还没有用硬件真正实现的并行处理的人工神经网络，对它的实现还是基于一般计算机的软件模拟，这显然并没有真正发挥出人工神经网络并行快速的特点。 6.1 概述 6.1.1 什么是人工神经网络 人工神经网络的两种操作过程 训练学习 训练时，把要教给神经网络的信息（外部输入）作为网络的输入和要求的输出，使网络按某种规则（称为训练算法）调节各处理单元间的连接权值，直至加上给定输入，网络就能产生给定输出为止。 这时，各连接权已调接好，网络的训练就完成了。 正常操作（回忆操作） 对训练好的网络输入一个信号，它就可以正确回忆出相应输出，得到识别结果。 6.1 概述 6.1.1 什么是人工神经网络 文本（英文）朗读机实例 输入装置是一个阅读窗口，当它沿文本的一行移动时，每次前移一个字母，但每个瞬间输入七个相邻的字母（包括空格和句号）信息。 由于英文字母的发音与其前后字母有关，所以训练人工神经网络时，只要求每次七个字母的中间字母发音（靠人工神经网络的输出相应状态驱动一个语音综合发生器）。 训练时，将一篇有1024个字的文本一行一行通过阅读窗口，并要求对应每个字母时人工神经网络的输出结点能输出相应音素的状态值。 6.1 概述 6.1.1 什么是人工神经网络 文本（英文）朗读机实例 这样通过十遍阅读（训练），可以达到输出可理解的语音。 通过50遍阅读（训练），可以达到95%的精确度。 训练过程中听上去像小孩学说话一样，由不清楚到清楚。 训练完成后，再阅读从未见过的课文，朗读精度仍可达78%，完全可以听懂。 6.1 概述 6.1.1 什么是人工神经网络 人脸识别实例 用10个人的照片，每个人都在不同的角度照5张照片，共有50张照片的输入信息。 对人工神经网络进行训练，每个照片信息作为输入时，代表10个人的10个结点中相应的一个结点输出最大，每个人的5张照片都对应着同一个结点的最大输出。 经过训练后，再对原来的10个人中的一个从不同角度拍照（尺寸不变），进行识别，结果是他本人对应的结点的输出比其它9个结点的输出都高得多。 6.1 概述 6.