变结构贝叶斯神经网络的研究.pdf

摘 要 本文的第一部分考虑前向神经网络与一线性项相加的模型，对这一模型进行分层贝叶 斯分析．针对前向神经网络隐含层结点个数未知的情形，我们用可逆跳跃Markov链Monte Carlo(RJMCMC)方法研究神经网络的模型选择问题。即根据数据确定缩点的个数以及它 们之间的连接关系． 本文的第二部分给出了贝叶斯神经网络在时间序列分析中的应用．我们采用的非线性 回归模型由—个线性自回归项和一个未知隐含层结点个数的前向神经网络所组成．当神经 网络结点出现相似或不相关时，模型可辨识性问题就变得较为突出．因此，我们提出了新 的可逆跳跃移动，使模型选择变得相对容易。有效地解决了模型可辨识性问题． 在本文的实验中，第一部分首先用第二章中改进的RJMCMC算法对Robotarnl数据 进行了实验，用前200个数据对隐含结点个数进行了选择，并且得出了各个参数的值，对 后200个数据进行了预测，画出了预测误差曲线图和直方图，可以看出预测效果比较好，而 且我们的实验所用时间较少．然后用我们的算法对一个简单神经网络的结构进行了预测， 可以看到预测的结果还是比较准确的．第二部分首先把第三章中的理论应用到一个具体的 时间序列的例子(Airline数据)，通过图像我们可以看出预测结果还是比较精确的