人工神经网络教材.pptx

; 神经网络本质上是一种处理多变量和多响应的方法, 对非线性问题尤其擅长, 而这类问题在化学中相当多. 所以, ANN在化学中得到了广泛的应用. 例如: 多组份分析数据的聚类，QSAR，亲电芳香族取代反应研究，涂料制造的优化，红外、核磁等谱图与结构的相关，分子静电势的非线性投影、由氨基酸序列预测蛋白质二级结构，故障检测与过程控制等. 下面简单介绍ANN基本原理. ; 人工神经网络模拟人脑结构和功能而工作. 目前人们对大脑的工作机理虽了解甚少,但对其结构已有一定了解：大脑由大量神经元构成, 每个神经元是一个小的处理单元, 其中一个称为树突的部分接受冲击信号, 通过树突支路传到细胞体, 另一个称为轴突的部分将冲击信号从细胞体传出去. 神经元之间通过突触连接, 形成大脑内部的生理神经元网络. 大脑的强大功能主要取决于神经元的相互连接方式而不是单个神经元的作用. 人工神经网络也是如此, 因此, 人工神经网络强调的是网络而不是神经元.;人工神经元;输入信号表示为输入行矢量X X= （ X0 , X1 , … …, XN ） 连接到神经元 j 的权表示为加权矢量Wj Wj =（ W0j , W1j , … … , WNj ） Wij的下标i为输入点编号, j为神经元编号. 偏置项θj 用Xo= -1表示, 其连接权W0j= θj （偏置项的作用是提高稳定性）. 输入的加权和sj可表示为输入行矢量与加权矢量的点积: sj= X .Wj;净输入sj 如果直接作为输出值 Yj , 往往是不合理的, 例如非常大或者是负值. 所以需要通过一个转换函数F，将 sj 变换为输出值 Yj ; 神经元如何连接成网络呢? 最简单的做法是让一组几个神经元(神经元也称为结点)形成一层. 其中的加权构成加权矩阵W. 层与层可以进一步连接, 形成多层网络. 这种连接可能有各种不同的方式, 下面只涉及前馈全连接多层网络, 这指的是: 每一个神经元只连接到下一层的所有神经元, 而没有部分连接、没有反馈连接、没有层内连接、也没有隔层前馈连接.（注意：“前馈”意味着信号流动方向是从输入端到输出端， “反馈”则意味着与此相反的方向）.;下图是一个(6×8×4×1)神经网络(不包括偏置项):; 对于QSAR研究, 每一层的结点数应当如何确定呢? (1) 输入层结点数等于结构参数的数目, 与样本数无关; (2) 输出层结点数可以有不同的选择。例如, 若想把预测集样本分为p类, 应当用一个输出结点、将输出值划分为p段来确定每个样本的类别呢? 还是应当用p个输出结点, 让每个结点产生一个二进制型输出（1或0）来确定每个样本的类别呢? 一般说来, 后一种选择产生的误差小. (3) 隐蔽层结点数的确定是一个理论上尚未解决的复杂问题，通常用尝试法来确定. 尽管有一些经验性的估计方法.;训练算法;监督训练; BP的学习包含四个过程： 1. 输入信号由输入层出发，经过各隐蔽层，正向传播到输出层的模式顺传播过程; 2. 输出矢量与目标矢量相比较, 误差信号由输出层经过隐蔽层向输入层反向传播, 逐层修正连接权和阈值, 即误差逆传播过程(BP这一名称即由此而来); 3. 以上两个过程反复交替进行的网络学习训练过程; 4. 网络全局误差趋向极小的学习收敛过程.; 在神经网络训练过程中，“过拟合”是一个常见问题，即随着迭代次数的增加，尽管训练集的均方根偏差可能还在下降，但测试集的均方根偏差却开始上升，这是网络模型为了拟合个别样本所致. 为避免过拟合，有专家建议用测试集来监控训练过程，一旦测试集均方根偏差开始上升，无论训练集均方根偏差下降与否，均应停止训练. 测试集的均方根偏差曲线可能有若干个极小值，取其最小值对应的叠代次数作为最优训练次数,相应的权重矩阵用于分类.; ; ; ; ; ; ;(1) 例如，选用QuickProp. 这允许修改:;(1) 点击, 它将在训练开始后显示网络结构:;(1) 点击, 存储权重矩阵,并为.wts文件命名:;;