人工神经网络模型讲解.ppt

第二章 神经网络理论基础 生物神经元 生物神经网络信息处理特征 神经元理论模型 人工神经网络模型 神经网络基本特性 神经网络模拟 神经网络学习机理 神经网络信息处理能力 神经网络的稳定性和收敛性 神经元内部电位示意图 通过样本学习 学习算法 范例： 学习的目标：产生一个网络，在给定的范例下，修正网络的权系数（权值），使得该网络实现映射 一般地，通过样本学习可以表示为 环境 X 概念 学习过程 假设 训练样本 测 试 过 程 目标 网络输入输出存在映射 网络实际实现的映射 训练样本集 目标： 例如： 环境X ： ｛一组图画｝ 概念 ： ｛是一颗树或者不是树｝ 假设 ： ｛识别树的系统｝ 样本 ： ｛一些是树的画和不是树的画｝ 测试 ： ｛通过观察典型图片学习树的概念｝ 给出典型的是树的图画 和不是树的图画 让系统进行训练； 构造假设 ，使得当输入为 时，输出 尽可能逼近 ； 学习完成后，就获得了假设 ，可以应用 去识别待识别的样本 ； 也即，当输入是树的图画 ，假设 能判断是树；当输入不是树的图画 ，假设 能判断不是树； 要学习的知识是 ，实际学习到的知识是 是 的良好近似； 两个参数度量 最小训练样本集 最大识别误差 除了至多 幅图画和最多 次失败外，都有 学习应该尽可能使 均小； 一般而言，参数 是相互矛盾的； 人工神经网络是基于人脑的结构和功能建立起来的新学科，试图模拟人脑的作者方式和信息处理方式而建立的信息处理系统，是信号处理学科的一个分支； 目前，人工神经网络是人脑的低级模拟； 很多主要特性和人脑的智能特性类似； 2. 5 人工神经网络基本特性 并行结构和并行处理机制； 信息的分布处理； 自适应性； 容错性； 优化计算特性； 人工神经网络的局限性 人工神经网络的基本特性 并行和并行处理机制 人工神经网络模型是由大量的神经元广泛互连而构成的网络； 每一个神经元都是可以同时操作的； 神经网络的计算功能、信息处理功能部分在每个神经元上； 神经网络再结构上是并行的，其处理机制也是并行的； 网络的状态变化反应了神经网络的处理过程； 当前，大部分神经网络都是用数字计算机的串行工作方式去模拟并行工作方式，所以并不能直接反映神经网络的真正能力。 信息分布处理 神经网络的信息处理结果，是存储在各神经元之间的连接强度上； 要获得存储的信息，采用“联想”的方法； 当一个神经网络的输入一个激励时，网络要在已存储的信息中寻找与该输入匹配最好的存储信息，作为该输入的输出（解）； 就好像一个教师能容易地辨认出他的学生的笔迹，不管该笔迹时潦草的，还是变形的。 自适应性 自适应型是指系统对外界环境的不敏感性； 即，当外界环境发生变化时，系统仍然能保持良好的性能，或者，自己能适应外界环境的变化； 自适应性包括：自学习、自组织和综合推理 自学习 当外界环境发生了变化，在结果一段时间之后，系统能改善自己的性能，就认为系统在这段时间内进行了学习； 例如，神经网络能识别模式（图形等）就必须先进行学习；也即，必须先教网络或者训练；属于有指导的学习。 自组织 在训练时，有时只给它大量的样本，没有指定期望的输出，网络就自动按输入样本的特性对他们进行分类； 网络通过训练自动调节神经元之间的连接权系数，从而实现对输入样本的分类。这种特性就称为自组织特性； 自组织特性属于无指导的学习； 综合推理能力 指网络具有正确响应和分辨从未见过的输入样本的能力； 例如，在进行数字图形识别时，对于不完全的数字图形或者叠加有大量噪声而失真的数字图形仍然能正确辨认； 容错性 与人脑具有很强的容错性一样，人工神经网络也具有较强的容错性； 神经网络能从不完善的数据和图形进行学习和作出判断； 由于信息时存储在整个神经网络的连接权系数上，而不是存储在某些单元，一定比例的神经元不参与运算，对整个神经网络的性能不会有太大的影响； 优化计算特性 神经网络的优化计算特性主要指神经网络在求解优化计算问题时，采用与人脑一样的策略； 求满意解，不求精确解； Hopfield网络就是一个例子 人工神经网