犅犘神经网络在建模中的参数优化问题研究.PDFVIP

第 卷 第 期 气 象 ３９ ３ Ｖｏｌ．３９ Ｎｏ．３ 　　　 　 　 　 　　 　　 　　 年 月　　 　　 　　　 　　　 ２０１３ ３ Ｍａｒｃｈ ２０１３ 　 ＭＥＴＥＯＲＯＬＯＧＩＣＡＬＭＯＮＴＨＬＹ 曾晓青 神经网络在建模中的参数优化问题研究 气象， （）： ．２０１３．ＢＰ ． ３９３ ３３３３３９． 犅犘神经网络在建模中的参数优化问题研究 曾晓青 国家气象中心，北京 １０００８１ 提 要：神经网络方法已经在过去很多年中得到了大量研究，特别是基于误差反向传播算法的人工神经网络（简称 ＢＰ 　 ＡＮＮ）在很多天气预报业务上发挥了重要作用。对于ＢＰＡＮＮ训练有这样的一个问题，在同一个样本模型、同样的网络结构 和同样的输入参数情况下，每次训练得到的权重和最终的误差结果几乎都是不一样的，有的会很好，有的会较差。在利用 ＢＰ ＡＮＮ建模训练中，希望都寻找到因子模型的局部最优解，使它具有较好的泛化能力。为了提高 ＢＰＡＮＮ在业务预报中的建 模和预测能力，将对 进行改进试验。利用 — 年每年 月 日至 月 日的 模式预测数据和北京 ＢＰＡＮＮ ２００９ ２０１０ ５ １５ ９ １５ Ｔ６３９ 地区 个站点的最高温度实况资料作为建模样本数据，对 个站点进行数值模拟试验。通过对 个模型样本的拟合建模试验 ４ ４ ４ 发现： 的随机初始权重场服从高斯分布，或者初始权重场进行多次初始化，或者采用动态的隐层神经元网络结构都 ＢＰＡＮＮ 能让 对样本的拟合命中率有一定的提高。最后选择 年 月 日至 月 日 天的资料作为预报测试数 ＢＰＡＮＮ ２０１１ ５ １５ ９ １５ １１５ 据，集成 种改进方法于一个 中，和未改进前的 进行比较，对比后发现优化后的 训练出的模型预 ３ ＢＰＡＮＮ ＢＰＡＮＮ ＢＰＡＮＮ 测得到的验证样本预测命中率要高于未优化的ＢＰＡＮＮ训练出的模型得到的验证样本预测命中率，优化后的ＢＰＡＮＮ具有 更好的泛化能力。 关键词： 神经网络，高斯分布，权重初始场，动态的神经元，泛化能力 ＢＰ 中图分类号： 文献标识码： ： ／ Ｐ４５６ Ａ 犱狅犻１０．７５１９ ．ｉｓｓｎ．１００００５２６．２０１３．０３．００７ 　　　　　　 　　　　　　 ｊ Ｓｔｕｄ ｏｎｔｈｅＰａｒａｍｅｔｅｒＯ ｔｉｍｉｚａｔｉｏｎＰｒｏｂｌｅｍｏｆＢＰ ｙ ｐ