神经网的原理及在金融中的应用.ppt

神经网络模型的种类按照拓扑结构可以分为反馈神经网络模型和前向神经网络模型；按照性能可以分为连续型和离散型神经网络模型，确定型和随机型神经网络模型；按照学习方式可以分为有教师学习和无教师学习神经网络；按照连接突触性质可以分为一阶线性关联神经网络模型和高阶非线性关联神经网络模型。常见的人工神经网络模型，主要包括感知器（Perceptron）神经网络、线性神经网络、前馈神经网络、径向基函数神经网络、自组织竞争神经网络、回归神经网络等。神经网络模拟了一个具有许多相对简单的个体单元高度联系、平行计算的结构。个体单元编成三层：输入层、中间层和输出层。前馈网络单方向将输入映射成输出，即从输入层到中间层再到输出层。01ANN的结构02其中F、G是传递函数可以解释为代表所描述的三层前馈神经网络的非线性函数。首先设定初时权值，如果无先验的知识，初时权值可设定为随机值。接着输入样本数据进行学习，参照评价标准进行评判。如果达到要求，就停止学习，否则按照给定的学习法则调整权值，继续进行学习，直到取得满意的结果为止。神经网络的学习过程，一般是，人工神经网络的学习规则神经网络的学习规则，主要包括误差传播式学习、联想学习、竞争性（Competitive）学习和基于知识的学习等。各种学习规则都是以Hebb规则为基础的。ANN最广泛的学习规则是误差后向传递（errorbackpropagation），是二十世纪八十年代中期引发多层神经网络的兴趣再度空前高涨的一个主要原因无监督学习规则，赫布认为神经网络的学习过程最终是发生在神经元之间的突触部位，突触的联结强度随着突触前后神经元的活动而变化，变化的量与两个神经元的活性之和成正比。Hebb学习规则是一个无监督学习规则，这种学习的结果是使网络能够提取训练集的统计特性，从而把输入信息按照它们的相似性程度划分为若干类。后传法是一种递归梯度下降法，它通过向下移动误差曲线的梯度，使得系统的误差平方和达到最小。多元线性回归模型可以表示成一个简单的二层前馈网络，它具有线性传递函数F(a)=a传统统计模型与神经网络如果输出的滞后值作为网络的输入，就得到AR(d)时间序列方程ANN模型的选择识别相关的输入和输出；选择适当的网络结构，包括隐蔽层和隐蔽层单元的必要个数；使用适当的模型评价准则。尽管ANN可以是通用的近似形式，但最优网络结构却不是自动确定的。在任何金融应用中，开发一个最优网络，需要网络输入和输出变量的选择及数据的质量是ANN应用成功的关键，在实践中，通常用模型的自变量作为网络的输入，而用因变量作为网络的输出。ANN的输入和输出如果有超乎要求的更多的自变量包括在网络的输入中，则要用到降维方法。1、主成分分析2、因子分析3、逐步回归方法为了将输入和输出中量纲的影响减至最小，同时又提高学习算法的有效性，通常对数据集进行标准化处理.ANN的输入和输出数据的质量以及数据集代表总体的适当程度是非常重要的。培育和检验一个ANN，具有足够的数据也是很重要的。020103ANN的结构确定隐蔽层和隐蔽层单元的必要个数输入和输出确定ANN的结构由于二层ANN能力的局限性,经常使用有至少一个中间层的网络Cybenko（1988)至多两个隐敝层一个隐敝层以任意准的精度近似足以近似一组特殊的函数任何连续函数ANN的结构隐蔽单元的个数k的选择k值太小k值太大ANN不能按要求的准确度近似y=f(x)过度拟合1、分析法，即用代数或统计分析来确定先验的隐蔽单元个数。2、结构方法，根据需要一个接一个地构筑隐蔽层单元；3、网络修剪（networkpruning）法，以相反方向运作，修剪网络并去除掉“多余的”或灵敏度最低的连接。已经提出了几个经验法则；例如，连接的个数不能少于0.1T，隐蔽单元的个数是（T-1）或log2T，这里T是样本容量。ANN的评价准则（1）均方误差（MSE）和均方根误差（RMSE）：（2）平均绝对误差（MAE）和平均绝对百分误差（MAPE）：可决系数（）（4）Akaike信息准则（AIC）：AIC调整MSE以说明模型的复杂性（5）7）Schwarz信息准则（SIC），或贝叶斯信息准则（BIC）：皮尔逊（Pearson）相关系数（ρ）Theil不等式系数（U）预测随机复杂性（PSC）方向准确度（DA）和混淆比率(confusionrate,CR）：ANN中的统计推断很少有关于ANN应用的实证研究报告了置信区间或进行假设检验，这是因为ANN通常不具备古典的统计性质。Lebaron和Weigend（1994）提出自助(boots