神经网络中处理鞍点的lmbp改进算法-计算机工程.pdf

下载文档

10
0
约3.48万字
约 4页
2018-06-07 发布于天津
举报
版权申诉
保障服务

神经网络中处理鞍点的lmbp改进算法-计算机工程.pdf

1、本文档共4页，可阅读全部内容。
2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击这里二次下载。
4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。

神经网络中处理鞍点的lmbp改进算法-计算机工程

第38 卷第23 期计算机工程 2012 年12 月 Computer Engineering December 2012 Vol.38 No.23 文献标识码文献标识码：：A 文献标识码文献标识码：：中图分类号中图分类号：：TP301.6 文章编号文章编号：：1000——3428(2012)23——0173——04 中图分类号中图分类号：： ·人工智能及识别技术·人工智能及识别技术·· 文章编号文章编号：： —— —— —— ··人工智能及识别技术人工智能及识别技术·· 神经网络中神经网络中处理鞍点的处理鞍点的改进算法改进算法神经网络中神经网络中处理鞍点的处理鞍点的改进算法改进算法 LMBP 李炯城李炯城，肖恒辉，肖恒辉，李桂愉，李桂愉李炯城李炯城，，肖恒辉肖恒辉，，李桂愉李桂愉 (广东省电信规划设计院有限公司广州市无线网络优化重点工程中心，广州 510630) 摘摘要：要：针对目前神经网络中的Levenberg-Marquardt 反向传播(LMBP)算法在训练过程中有可能迭代到鞍点的问题，提出一种能有效克服摘摘要要：：鞍点的 LMBP 改进算法。计算鞍点处雅克比矩阵的正特征值对应的特征向量并将其作为新的搜索方向。通过实例对比传统LMBP 算法与改进LMBP 算法的效果，证明改进的算法能有效地脱离鞍点并进一步收敛到极小点处。关键词关键词：神经网络：；Levenberg-Marquardt 反向传播算法；鞍点；雅克比矩阵；海森矩阵；高斯-牛顿法关键词关键词：： Improvement Algorithm of Levenberg-Marquardt Back Propagation for Saddle Point in Neural Network LI Jiong-cheng, XIAO Heng-hui, LI Gui-yu (Key Wireless Network Optimization Center of Guangzhou,