模糊数学及其应用4.pptVIP

第五讲 模糊神经网络与模糊专家系统 一、人工神经元的基本模型 1、? 生物神经元与神经网络 各类生物神经元的形态虽然不尽相同，功能也有差异，但通常由细胞体、树突 和轴突所组成。其形状如下图所示。 其中，细胞体是神经元的主 体部分。每一个细胞体都有一个大 的细胞核，占细胞体的很大一部分， 完成呼吸和新陈代谢的许多生化过 程。细胞体的外部是细胞膜，树突 和轴突就是从这里伸出的。轴突通 常很长，我们常说的神经即神经干， 主要由成千上万条轴突所组成。单 个神经元可以有许多树突，但轴突 通常只有一根主干。不过，轴突末 梢常常分出许多侧枝，以向多方传 递信息。神经元传递信息靠“兴奋” 和“抑制”。 人工神经网络的优点 具有并行处理和信息分布式存储能力 ； 具有容错性和稳健性 ； 具有自学习能力 ； 具有较强的非线性动态处理能力 ； S型或P型神经元的局限性 非线性连续型模型S型或P型激发函数，要掌握其应用范围，否则实际应用中可能出错。无论多大的输入，S型都将它压缩到(0,1)的范围内，而P型激发函数则将任意输入压缩到(-1,1) 范围内。输入在[-1,1]之间时，输出才会具有一定差异，意即该激发函数仅在区间[-1,1]才具有敏感性，从而导致网络的映射能力弱。 一种新型神经元模型 表达式：f(u)=a-2a/(1+exp(bu))； 特点：它的敏感区间和输出范围都可由参数a、b来确定，可实现任意范围内的输入输出，拓展了这类神经元模型的应用领域，增强了网络的映射能力。 Levenberg-Marquardt算法 解决方法：Hessian矩阵出现病态矩阵时，增大Hessian矩阵的主对角线元素； LM算法的搜索方向介于高斯–牛顿法和最速下降算法之间。LM算法的效率少数情况下比Gauss-Newton算法低，但其稳健性比Gauss-Newton算法好。LM算法的缺点是在运算过程中比其它算法要占用更多的计算机内存资源。 BP算法与LM算法效果比较 神经网络用于预报的范围 神经网络适用于内插问题，而不可用于外推，即神经网络只对学习范围内的数据具有识别能力，而对学习范围外的数据没有识别能力。 神经网络LM算法预报应用实例 神经网络模型的局限性 神经网络拓扑结构的确定带有经验性，寻求最佳网络结构比较困难； 神经网络结构的物理意义无法解释； 激活函数的选取带有随意性 ； 模糊神经网络 模糊神经网络实质上是将模糊逻辑和模糊推理功能与神经网络中的自学习、自适应功能结合为一体，成为一个具有学习、识别、联想、自适应和模糊信息处理等特性的系统。 神经网络模拟了人脑的硬件（脑神经），而模糊技术部分模拟了人脑的软件（人脑的逻辑推理能力），所以它们的结合使得该系统同时具有神经网络的低层次的学习、计算能力和模糊系统的高层次的推理、决策能力。 模糊神经网络的结构 模糊规则组合爆炸问题 随着输入变量的增加，模糊规则数呈指数增长，例如每个输入取3个模糊值，n个输入将产生3n条规则。众多的模糊规则将严重影响网络的收敛速度，一个庞大的网络训练起来非常困难，从而限制了模糊神经网络应用于复杂的实际问题。这便是模糊规则的组合爆炸问题。 模糊规则组合爆炸问题的解决方案 减少模糊分割数 ； 网络分解再组合 ； 删除无关规则 ； 模糊神经网络的正向计算 模糊神经网络的正向计算首先是把各输入的清晰量经隶属函数转变成模糊量，经过各条模糊规则的推理，各条模糊规则均产生一个模糊输出，再采用一定的算法集中各条规则输出的模糊值，最后利用解模糊化的方法得到为清晰数值量的网络输出。 规则适用度的计算 试验表明，采用min或max操作会使大部分待调参数在迭代过程中得不到调整，从而使算法效率低下，映射精度难以提高。为了解决这个问题，宜采用sum替代min或max操作。prod操作可能会导致大部分第3层节点输出为0，不宜采用；而probor方法会导致算法的复杂化，亦不宜采用。 泛化能力与训练次数的关系 网络的泛化能力，与网络学习训练终止时的学习次数或训练误差具有一定的关系。学习过程可以看作是曲线拟合的过程，泛化则相当于非线性内插。如果网络学习了过多的特殊样本，且过分追求训练集内的小误差，就会降低其泛化能力。 模糊神经网络的优势 相对于神经网络而言，模糊神经网络的拓扑结构是由输入和模糊规则确定的，具有明确的实际意义；模糊神经网络隶属度函数的选取也具有明确的意义，不存在类似于神经网络选取激活函数时无法解释且映射能力弱的问题。神经网络模拟了人脑的硬件，而模糊系统则模拟了人脑的软件(思维)，由两者结合产生的模糊神经网络是一种新型网络，具有神经网络所没有的优势和发展前景 。 模糊神经网络应用实例 模糊神经网络应用实