神经网络方法环境工程.pptVIP

* 神经网络时间序列预测模型的步骤 （6）验证网络 对网络进行检验，即对检验时间序列进行预测，与检验样本对比，分析预测的效果，效果满足精度要求便可以用来进行长期预测。检验方法通常采用后验预测法。 * 神经网络时间序列预测模型的步骤 （6）验证网络 可设实测的序列采样样本为 利用前n个采样值得到的预报方程为 记 的预报值分别为 称为预报方程的后验预测值，令 表示后验预测的残差，则 * 神经网络时间序列预测模型的步骤 （6）验证网络 可设实测的序列采样样本为 利用前n个采样值得到的预报方程为 记 的预报值分别为 称为预报方程的后验预测值，令 表示后验预测的残差，则 * 神经网络时间序列预测模型的步骤 设动态样本中的前n个数据的标准差为 ，后验数据残差的标准差为 ，即： 令 及 及 * 神经网络时间序列预测模型的步骤 其中p代表 的频率，称为或然误差的观测频率，c称为后验标准差比值，后验预测的效果可以按表5－1给出的标准进行衡量。 表1 后验预测法预测效果表 预测效果 或然误差的观测频率p 后验标准差比值c 好 0.95 0.35 合格 0.80 0.50 勉强 0.70 0.65 不合格 ≤0.70 ≥0.65 * 神经网络时间序列预测模型的步骤 （7）预测 利用所得到的神经网络时间序列预测模型，进行各种序列的长期预测。 * 神经网络 人工神经网络能够模仿人脑的功能，具有对信息进行并行处理、分布式存贮，良好的自适应性、自组织性、自学习与推理的能力，表现出容错性、非线性、非局域性、非凸性等特点，适用于对模糊信息或复杂的非线性关系进行识别与映射。 * BP神经网络 误差反向传播网络（Back－Propagation Network），简称BP神经网络，是目前人工神经网络最具有代表性的一种网络，应用最为广泛。BP神经网络通常由输入层、若干隐含层和输出层组成，最基本的BP神经网络通常由一个输入层、一个隐含层和一个输出层组成。 X表示网络的输入、H表示隐含层、Y表示网络的输出，Wij表示输入层与隐含层之间的连接权值，Vjk表示隐含层到输出层的连接权值。m、l、n分别表示输入层、隐含层、输出层神经元的个数。Q1j和P1j分别表示隐含层、输出层神经元的阈值。 * BP网络整个学习过程的一般步骤如下 ： ① 网络初始化。给各连接权值{Wij}、{Vjk}及阈值{Q1j}、{P1j}赋予（-1，+1）间的随机量。 ② 将第t（t=1）个学习样本输入到图的网络中。 ③ 计算隐含层第j神经元输入{sj}和输出{ bj }：，即： 式中： f（x）—网络相应函数，取f（x）为Sigmoid函数， 即 。 * ④ 计算输出层第k神经元的输入{Lk}和输出层的输出{Ck}，即： ⑤ 计算输出层各神经元的一般化误差{dk}： 式中：Yk—第k神经元的期望输出。 ⑥ 计算隐含层第j神经元的一般化误差{Ej}： * ⑦ 调整连接权值和阈值： 式中：η—学习速率，0η1。 ⑧ 选取下一个训练样本对（t=2），重复步骤③～⑦，直至所有样本对（t =1，2，…m）训练完毕，即完成了训练样本集的一轮训练。 * ⑨ 计算全局误差SSE： 式中：M—学习样本的对数； Ykt—第t对学习样本的期望输出； Ckt—第t对学习样本的计算输出 ⑩ 如果SSE小于预先设定的一个误差值，则网络停止学习；否则将重复步骤③～⑦，进行样本学习样本集的下一轮训练。 * 标准BP算法是基于梯度下降法，通过计算目标函数对网络权值和阈值的梯度进行修正。学习过程是通过调整权重和阈值使期望值和神经网络输出值的均方误差趋于最小实现的，只用到均方误差函数对权值和阈值的一阶导数信息。 标准梯度下降法权值和阈值的迭代过程可表示为 ： 标准BP算法： 由网络所有权值和阈值所形成的向量。 学习速率 目标函数(均方误差函数) 目标函数的梯度(一阶导数) 迭代次数 * BP神经网络的缺点： BP神经网络是目前应用最多的一种神经网络形式，但不是非常完美， 表现出结构确定的人为性、训练速度慢以及初始权值对结果影响的随机性等缺陷；存在学习过程易陷入局部极小、易出现震荡和网络存在冗余连接或节点等缺陷；另外，隐含层单元数及隐含层结点数的确定至今没有统一的方法。 * 对于上述存在的缺点，许多学者对BP网络进行了改进，大多采用基于标准梯度下降的改进方法，如附加动量法、弹性BP算法、自适应调整参数法等或基于标准数值优化的改进方法，如拟牛顿法、共扼梯度法和LM法等，并没有将两种改进方法结合起来。 BP神经网络的改进： * （1）基于标准数值优化的改进 BP神经网络的训练实质上是非线性目标函数的优化问题，标准BP神经网络利用了目标函数