9.3 人工神经络.pptVIP

§9.3 人工神经网络 人工神经网络(Artificial Neural Network, ANN)是在现代生物学研究人脑组织所取得成果的基础上提出的，它利用大量简单的处理单元广泛连接组成的复杂网络来模拟人类大脑的神经网络结构和行为。 人工神经网络具有人脑功能的基本特征：即学习、记忆、概括、归纳和抽取等，从而解决了人工智能研究中的某些局限性。 注意：这种模拟具有很大的局限性。 §9.3.1 人工神经网络的基本特征 1. 学习 神经网络可以根据外界环境修改自身的行为。 2. 概括 经过训练，神经网络的响应能在某种程度上对外界输入信息少量的丢失或神经网络组织的局部缺损不再很敏感。因此，神经网络具有鲁棒性(Robust、稳健性)，或称为容错能力。 3. 抽取 神经网络还有一种抽取外界输入信息特征的特殊功能，或称神经网络具有创造性。 §9.3.2 人工神经网络的基本模型 人类大脑的活动过程 典型的人工神经网络模型 人类大脑的活动过程输入信息(视觉、听觉、触觉等)经延迟、分析和提取特征后产生输出(动作)。 加工 存贮 逻辑 长期 非逻辑 短期 输出系统 语言、动作 输入系统 视、听、触 控制系统 有意识控制 无意识控制 动力系统 理想、目标、兴趣等 客体 客体 典型的人工神经网络模型 由神经元通过连接弧连接构成输入层、中间层和输出层。 输出层 中间层 输入层 §9.3.3 神经元的结构模型 称为连接权重 F称为特征传递函数 人工神经网络常用的传递函数 (1)线性特征函数： ，其中k为常数 (2)阈值特征函数： (3)S形逻辑特征函数： 又称sigmoid函数。 (4)双曲正切特征函数： §9.3.4 人工神经网络的学习算法 有监督训练 反向传播网络(B-P网络)、统计网络和Hopfield网络等。 无监督训练 自适应共振理论网络(ART网络)、自组织特征映射网络(Kohonen网络)等。 B-P网络的学习算法 B-P—Back Propagation 学习算法： 正向传播：向前传播计算，从输入层开始，传递各层并经过处理后，产生一个输出，并得到一个该实际输出和所需输出之差的差错矢量； 反向传播：反向传播计算，从输出层至输入层，利用差错矢量对权值进行逐层修改。 输出层 中间层 输入层 B-P网络的学习过程 (0)网络权值的初始化，设为小的随机数。 (1)从训练范例(又称样本)集中取一训练对，把输 入矢量用作网络的输入； (2)计算网络输出矢量： ； (3)计算网络输出矢量与训练对中目标矢量间的 差错： ； (4)再从输出层反向计算到中间层，向减少差错方 向调整网络权值： ； (5)对训练范例集中每一个范例重复(1)-(4)步，直 至整个训练集的差错最小。 梯度下降法： 定义： 得： 称为学习速率 输出层： 中间层： 对于Sigmoid函数： B-P算法的改进 动量常数 的应用： 指数平滑法： 特性函数的修正： 小波神经网络 函数连接型神经网络 §9.3.5 人工神经网络的应用 非化学领域： 专家系统、语音的识别与合成、故障的判断、模式识别与分类等。 化学及相关领域： 医疗、制药、食品、环境化学、纺织、材料科学、考古、石油等。 研究内容： 定量分析、波谱解析、化学模式识别与分类、定量构效关系(QSAR)等。 人工神经网络用于原子半径预测 输入参数：原子的第一电离能、原子实及核外电子排布 (s, p, d, f电子数)输出参数：原子半径(共价半径、金属半径、范德化半径) 人工神经网络用于电子亲合能预测 输入参数：原子的第一电离能、原子实及核外电子排布 (s, p, d, f 电子数)输出参数：电子亲合能 人工神经网络的其他应用(1) MnSi钢的冷弯性能判别热轧25MnSi钢输入：化学成分：C, Si, Mn, P, S, Cr, Mo输出：0-冷弯性能差；1-冷弯性能好 多组分体系的同时测定Mo-W混合体系；维生素混合体系(B1, B2, B6, 菸酰胺)输入