- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
SA—B融合算法在教学质量评价模型中应用
SA—B融合算法在教学质量评价模型中应用
【摘要】用于训练BP神经网络的反向传播算法(BP算法)易陷入误差局部极小。本文引入模拟退火算法(SA算法)改进BP算法的全局寻优能力,给出了SA-BP融合算法的具体步骤,并应用于教学质量评价模型的构建,应用结果表明了该模型相对传统BP神经网络具有更高的精确度。
【关键词】BP算法;SA算法;人工神经网络;梯度下降;教学质量评价
1.引言
教学质量评价是一个复杂的人性化过程,传统的评价方法无法体现评价指标和评价结论之间的逻辑关系,如常用的各项指标得分加权求和的方法就存在着用线性简化非线性,指标权重的确定较为主观化等问题。因此,为获得良好的教学质量评价成效,建立科学的评价模型具有重要的意义。
BP神经网络是使用BP算法进行训练的多层前向神经网络,具有极强的非线性映射能力,且网络结构规则,训练算法成熟,因此在工程领域得到了广泛的应用。但是,传统BP算法存在易陷入误差的局部极小,无法收敛到全局最优解的固有缺陷。
本文引入模拟退火算法(SA算法)改进BP算法的全局寻优能力,给出了SA-BP融合算法的具体步骤,并应用于教学质量评价模型的构建,应用结果表明该模型相对传统BP神经网络具有更高的精确度。
2.BP神经网络
BP神经网络是由输入层、输出层、一个或多个隐层组成的多层前向网络,一个典型的单隐层的BP神经网络如图1所示。
设网络的输入为,隐层神经元的输出为,网络的实际输出为,网络的期望输出为,n、r、m分别为输入层、隐层、输出层的节点数。输入层到隐层的权值为,阈值为,隐层到输出层的权值为,阈值为,i、j、k为输入层、隐层、输出层对应的节点编号,网络的激活函数为。
BP神经网络的运行分为两个过程:
(1)信号的前向传播,输入信号依次通过隐层和输出层,隐层的输出为:
,输出层的输出即为网络实际输出,计算式为:
(2)误差的反向传播,期望输出与网络实际输出差值就是误差信号,单个训练样本输出层瞬时误差为:
,所有训练样本的总体平均误差为:
,在线学习使用作为权值调整的目标函数,批量学习使用作为权值调整的目标函数。BP神经网络使用误差梯度下降法调整权值,权值调整量为,通过该式推导得出输出层的权值调整计算式为,局域梯度定义为,其中,为输出层节点k的诱导局部域,即节点k所有输入与权值的乘积;隐层的权值调整计算式为,局域梯度定义为:
通过上述两个过程的交替迭代进行,网络权值最终会收敛到误差的一个极值点。
3.SA-BP融合算法
3.1 SA算法概述
BP算法中梯度下降是一种“贪心”策略,它的每一步都会在局部误差下降最快的方向进行权值调整,而BP神经网络的误差曲面高度复杂,通常存在多个极值点,导致BP算法易陷入误差局部极小。SA算法是一种典型的全局寻优算法,源于对金属退火过程的模拟,金属原子在高温状态下会进行激烈的无序运动,经过逐渐冷却,这种运动会不断趋向于较低的能量状态,最终到达可能的全局能量最低状态,退火过程能量状态的概率分布由如下关系确定:,其中为处于能量状态E时的概率,T为绝对温度,k为Boltzmann系数。SA算法中能量趋于最低状态的特性能为BP算法加入了全局搜索能力,此时SA算法的能量函数等效于BP算法中的误差函数,SA算法的作用是引入参数的随机扰动,使权值调整有机会脱离误差局部极小区域,最终以较高概率收敛到误差的全局最小。
3.2 SA-BP融合算法具体步骤
SA-BP融合算法的具体步骤如下:
(1)设BP神经网络初始权值为,退火过程的初始高温为,停止温度为,温度衰减函数为,马尔科夫链长度为;
(2)使用BP算法对网络进行一次训练,求出当前状态下的各层权值,使用的权值调整公式为,动量项为动量系数与前一时刻权值修正量的乘积,它记忆了前一时刻权值的调整方向;
(3)用训练样本计算权值下的输出误差;
(4)为网络各层所有的权值上加上一个很小的随机扰动,使网络各层权值变为,权值调整公式为:;
(5)用训练样本计算权值下的输出误差;
(6)计算,若,则接受状态;否则,产生[0,1]之间均匀分布的随机数,计算概率,若,接受,否则,接受;
(7)将当前权值作为新的,循环执行上述(4)~(6)步次,获得权值;
(8)使用温度衰减函数降温,将当前权值作为初始权值,循环执行(2)~(7)步,直到温度降至预设的停止温度。
(9)此时得到的权值即为最终的BP神经网络参数。
4.应用实例
教学质量评价模型采用单隐层的网络结构,选择了4个评价指标作为网络的输入,分别为“内容选择”、“教态”、“逻辑性”、“教学方法”;将每个指标分为5档
文档评论(0)