多层前向神经网络分类器的泛化问题的研究.pdfVIP

摘要 摘 要 唯有认知世界才能改造世界，提升机器认知能力的模式识别研究是人工智 能领域的基础核心理论研究工作。另一方面，人工神经网络(简称ANN)本身 具有很多优点以及一些其它人工智能技术所不具备的特点，但由于缺乏正确的 理论指导，近年来舢fN的发展并不乐观，应用研究中碰到的泛化问题至今仍没 有完善的解决方案。鉴于模式识别在人工智能领域的重要地位以及ANN的研究 现状，本文以模式识别为背景，以多层前向神经网络分类器为具体研究对象， 研究了AI州领域的热点问题—泛化问题。 本文的研究主旨在于：期望通过本文这一探索性研究工作，使一些仅重视 应用研究的ANN研究者充分认识到理论研究的重要性和必要性，以及应用研究 与理论研究的不可分性，促进∞州更加蓬勃的发展。 本文主要的创新点和贡献有： 1)通过分析以往研究工作，发现了舢qN分类器依概率渐进最优性证明过 程中存在的问题，从而指出以往的理论结果存在着偏差。 set 2)在分析以往研究工作不足的基础上，建立了学习样本滤波(k姗ing Filt耐ng)理论模型，导出了比较一般性的分类器设计原则，，并以演绎方法和仿 真实验分别证明和验证了以这一原则所设计的分类器解决了ANN的依概率渐进 最优性问题。 3)在上述理论结果的指导下，着手解决ANN分类器在实践中所遇到的过 拟和与权重初始化这两个重要的泛化问题。本文所提出的解决方案在人工数据 集和真实数据集的实验中均取得了优于以往研究工作的结果，从而验证了这一 方案的有效性。 关键词：人工神经网络泛化问题依概率渐进最优过拟和权重初始化 Abstract ABSTRACT isttlefbun蜥onof the Co舯izing rebunding，so research∞pancmrccognition of whichairIlst0 themachme impr0VecongnitioIlability is卸imp(’naIltb雒ic廿1eory work．ont11eother andsome whichare hand，the∞are manygoodqualities points toOtIlcrAI fbr of√心Nisn’t ANN．IIowev％me supe—or techniqucs dcvel叩ment inrec朗t duet0ttleabscIlceofcon∞t the satifactOryyears tllc0够AndgcneraJizanon metln not to is蚯ll resolvedwcllto|llis me problemapplication尬∞arch day．Due of AIdomaina11dcun蜘ts诅tusofANN imp咖ccpattem∞cogIliti∞in research