基于BP神经网络的数据挖掘及在股价预测中的应用.pdfVIP

实践s经强 ／ — ． — — — — ， ． ． ． ， ． ．． ． ． ． ． ， ． ． ． ． ． ． ． ． ． ． ． ． ． ． ．． ． ． ．． ．． ．． 2．1 隐层数 理的 BP网络模型并通过向所 给的有限个样本 的学 Homik等已证 明闭：若输入层和输 出层采用线性 习(训练)来满意地逼近样本所蕴含 的规律 (函数关 转换 函数 ．隐层采用 Sigmoid转换函数 ．则含一个 隐 系 ．不仅仅是使训练样本的误差达到很小)的问题 。目 层 的MLP网络能够 以任意精度逼近任何有理 函数 前在很大程度上还需要依靠经验知识和设计者的经 显然．这是一个存在性结论 在设计 BP网络时可参 验。因此 ，通过训练样本的学习(训练)建立合理的BP 考这一点 ，应优先考虑 3层BP网络 (即有 1个隐层)。 神经网络模型的过程 ．在 国外被称为 “艺术创造的过 一 般地 ．靠增加隐层结点数来获得较低的误差 ．其训 程”．是一个复杂而又十分烦琐和困难的过程。 练效果要比增加隐层数更容易实现 对于没有隐层的 由于BP网络采用误差反传算法 ．其实质是一个 神经网络模型 ．实际上就是一个线性或非线性 (取决 无约束 的非线性最优化计算过程 ．在网络结构较大时 于输出层采用线性或非线性转换函数形式)回归模 不仅计算时间长 ．而且很容易陷入局部极小点而得不 型 因此．一般认为 ．应将不含隐层的网络模型归人 回 到最优结果。 目前虽已有改进 BP法 、遗传算法 (GA) 归分析中．技术已很成熟 ．没有必要在神经网络理论 和模拟退火算法等多种优化方法用于BP网络的训 中再讨论之 练f这些方法从原理上讲可通过调整某些参数求得全 2．2 隐层 结点数 局极小点)．但在应用中．这些参数的调整往往因问题 隐层结点的选择与其说具有科学性 ．不如说更具 不 同而异．较难求得全局极小点 这些方法中应用最 技巧性 往往与输人数据中隐含的特征因素有关 。网 广的是增加了冲量 (动量)项的改进 BP算法。 络初次训练前所有参数的选择权值都是初步数．至今 3．2学习率和冲量 系数 得不到一个统一的规范 。在文献f31和文献 4【1中，其作 学习率影响系统学习过程的稳定性 大的学习率 可能使网络权值每一次的修正量过大．甚至会导致权 者 分 别 用 公 式 l= 、／ 和 公 式 l= 值在修正过程中超出某个误差的极小值呈不规则跳 X／—O．43m+O．12n2+2．5—4m+O．77n+0．35+0．51来确定隐层 跃而不收敛；但过小的学历率导致学习时间过长 ．不 结点数的初始值 ．然后利用逐步增长或逐步修剪法确 过能保证收敛于某个极小值。所以．一般倾向选取较 定 所谓逐步增长是先从一个较简单的网络开始 ，若 小的学习率以保证学习过程的收敛性 (稳定性)，通常 不符号要求则逐步增加隐层单元数直到合适为止 ：逐