基于低维参数空间的神经网络结构设计方法.pdfVIP

维普资讯 第29卷 第6期 仪 器 仪 表 学 报 V0j_29No．6 2008年 6月 ChineseJournalofScientificInsturment Jun．2008 基于低维参数空间的神经网络结构设计方法术 胡 静，王世卿，李占波 (郑州大学软件技术学院 郑州 450002) 摘 要：本文研究了流形学习的分类器网络结构优化设计问题 ，针对利用神经网络对同一对象的非线性结构样本集进行分类 和识别时，如何合理地设计网络结构的问题，提出了一个新颖的基于低维参数空问估计的神经网络结构设计的方法。该方法以 流形学习为基础，结合 Sammon系数有效估计出低维参数空间大小，并将此对应到神经网络结构分组设计的隐节点分组数 目 上，从而设计出具有一定泛化能力的网络结构。实验结果表明了本文所提方法的有效性。 关键词：神经网络结构设计；低维参数空间；流形学习；局部线性嵌入；Sammon系数 中图分类号：TPI3 文献标识码：A 国家标准学科分类代码：510．8040 Neuralnetwork designapproachbasedonparameterspacein low．dimension manifold HuJing，WangShiqing，LiZhanbo (SchoolofSoftwareTechnology，ZhengzhouUniversity，Zhengzhou450002，China) Abstract：Optimizationdesignofclassifierstructurewasstudiedbasedonmanifoldlearning．A novelapproachof neuralnetworkdesignbasedonparameterspaceinlow—dimensionmanifoldwasproposedtosolvetheproblemsofde— signingneuralnetworkrationally，whichisusedinrecognitionandclassificationofcongenersampleswithnon—linear configuration．ThismethodisbasedonmanifoldlearningandcombinesSammonstressinordertoestimatethesizeof parameterspaceinlow—dimension，furthermorethissizecorrespondswiththenumberofhiddennodesinneuralnet— works．Experimentalresultsclearlydemonstratethattheproposedmethodiseffective． Keywords：neural networkdesign；parameterspaceinlow—dimensionmanifold；manifoldlearning；locallinearem— bedding；Sammonstress 低维参数个数不可知，但是解决分类和识别这类问题时， 引 言 其低维参数空间可以直接对应样本子空间。基于此 ，本 神经网络的网络结构与样本集的内在结构总是以一 文提出了一个通过 Sammon系数来观察两者之间的相互 种共生的方式协同工作的。有理论证 明 ：预先根据样 关系与变化，估计出同一对象样本集中的低维参数空问 本的性质和关系将样本空间分为几大类