基于神经网络训练的非线性时间序列预测的实验设计论文.doc

基于神经网络训练的非线性时间序列预测的实验设计 A P.P.Balestrassi, E.Popova, A.P.Paiva, J.W.MarangonLima 摘要： 在这项研究中，应用于实验设计（DOE）中的统计学方法更好地确定了人工神经网络（ANN）在非线性时间序列预测问题中的各种参数。取代了最常见的试错法，DOE被认为是人工神经网络训练的一个更好的方法。此研究的主要目的是预测季节性的非线性时间序列，也就是有关如短期电力负荷，每日价格和收益，耗水量等许多实际问题的预测。采用了此体系的个案研究中有六个时间序列，代表了巴西生产公司的工业用户的用电负荷。 1.介绍 对于解决试验在实际运用中的问题的研究员来说，DOE被认为是最重要的方法之一，因为它已有过大量成功的案例。如今，DOE资源被纳入统计软件包，方便了数据的计算和结果的解释。同样，人工神经网络在时间序列预测的问题中也起着重要作用。然而，人们也经常提到应用人工神经网络的弊端，那就是对其参数的优化。在一般情况下，大多数的实践者会利用长时间的试错过程来实现参数的优化。这项工作的主要目的是利用人工神经网络预测非线性时间序列和季节性时间序列，这正是许多实际应用中需要解决的真正问题。通常日季节性，月度或年度季节性都与固有的几个问题有关，如价格，收益，用电负荷，耗水量，需求等。非线性结构也存在于大多数的案例研究中。在这里DOE可以通过模拟估算出ANN的参数。由于缺乏相关文献对此进行阐述，还有一些问题也有待研究，此外以下问题也将在本文得到解决：如何利用ANN解决非线性季节性时间序列问题？如何设计ANN来解决这个问题呢？在这种方法中有哪些重要因素呢？是否有需要考虑的影响因素呢？ 在论文的第二部分回顾了基于ANN的实验设计进行非线性时间序列预测的最新文献。第三部分展示了整个实验过程的数据及图像结果。第四部分阐述了在ANN实验设计的框架内进行短期电力负荷的个案分析。第五部分陈述了我们的主要结论。 2.背景及文献回顾 2.1.实验设计的仿真 一个人工神经网络的训练过程包括改变计算机算法的输入参数，运行算法，并检查结果。这可以被看做是ANN问题的模拟研究。尽管在工业应用中DOE不乏成功的案例，但是它还并未被广泛应用于仿真领域。Kleijnenetal [34]指出DOE在仿真领域的缺失主要由于以下原因：（一）仿真分析家不相信DOE能够带来益处。 （二）关于DOE的研究往往刊登在仿真分析家很少涉猎的专业期刊。 （三）大多数的DOE最初是被用来研究真实世界的实验，而非仿真设备。上述研究还指出了在模型研制和仿真方面实验设计的主要优点，并预测说，DOE的使用可能在这个方面变DOE可以揭示详尽的模型行为，使建模团队详细讨论各种模型假设的影响，当分析师可能提前不知道应该问什么问题时，帮助构思问题，质疑或确认预期方向的正确性和因子效应的相关重要性，甚至发现在程序设计中的逻辑问题...DOE更适合特定的应用程序，它比试错法或一个小而简单的设计更好。因此，从业者应该开放观念，相信DOE是复杂的仿真分析中有用且必要的组成部分。 仿真术语的翻译可以看成是将仿真模拟中的一个输入或参数对应DOE中的一个因子。通常在仿真中的因子要比现实试验中更多。因子可以是定性的或定量的。每个因子可以别赋于两个或两个以上的值，称为因子水平，通常用数字编码进行分析。一个方案或设计点是所有因子水平的结合。随机模拟复制指的是将不同的伪随机数（PRNs）用于模拟相同的情况。对各种情况的数据收集不是随机的，但是是连续的。除另有规定外，和大多数统计方法的假设一样，我们假设复制使用的是不重叠的伪随机码流，所以通过复制的输出属于独立同分布（IID）。要对仿真有基本的理解就得测试DOE中因子效应的假设。 另一个重要问题是，使用DOE进行模拟仿真的主要目的并不是优化。使用DOE我们应力求找到稳健的方法或策略，而非最佳方法。诚然，找到模拟系统的最优方法是一个热门话题，而且许多方法也曾被提议过。Fu和Spall对当前仿真优化的研究和实践进行了探讨。这些方法包括启发式搜索技术——如遗传算法，响应面法（RSM），模拟退火，禁忌搜索——以及通过分析模拟模型来估计梯度，如扰动分析和评价函数。优化的结果是以特定的分布和（通常假定独立）和多种输入变量为前提的。当所有这些假设在现实中——甚至是在有限的时间内——出现的概率为零时，“最优”一词就存在问题了。与此相反，稳健的设计方法会将这些假设全部看做实验中的附加因素。这些被认为是噪声因素（而不是决定因素），因为他们在真实环境中是不可预知或无法控制的。尽管可能会遇到一系列噪声条件但是稳健的体系或方法仍能正常运行，因此，实施稳健的解决方案是不太可能导致意想不到的结果的。这个稳健的设计理念是受到Taguchi的启发[65]，他使用了简单