Python金融数据分析与挖掘（微课版） 课件 5-4.神经网络.pptx

第5章机器学习与实现神经网络模拟思想与神经元工作过程神经网络数学模型神经网络分类与回归应用举例

神经网络模拟思想第5章资料学习（孩子的日常辨识能力）：一个孩子从生下来，就开始不断地学习。他的大脑就好比一个能不断接受新事物，同时能识别事物的庞大而复杂的模型，大脑模型不断地接受外界的信息，并对其进行判断和处理。小孩会说话后，总喜欢问这问那，并不断地说出这是什么那是什么。即使很多是错误的，但经过大人的纠正后，小孩终于能辨识日常中一些常见的事物了，这就是一个监督学习的过程。某一天，大人带着小孩，来到一个农场，远远地就看到一大片绿油油的稻田，小孩兴奋地说出“好大的一片稻田”，大人乐了。因为小孩的大脑已经是一个经过长时间学习训练的“模型”，具备了一定的辨识能力。

神经元工作过程第5章可以理解为n个输入信号（信息），可以理解为对n个输入信号的加权值，从而得到一个综合信号（加权求和）神经元需要对这个综合信号做出反应，即引入一个阈值并与综合信号比较，根据比较的结果做出不同的反应，即输出。这里用一个被称为激发函数的函数来模拟其反应。例如，你蒙上眼睛，要判断面前的人是男孩，还是女孩。可以做一个简单假设（大脑只有一个神经元），只用一个输入信号x1=头发长度（如50cm），权重为1，则其综合信号为我们用一个二值函数作为激发函数：假设阈值=12，由于，故，由此我们可以得到输出1为女孩，0为男孩。

神经元工作过程第5章那么如何确定阈值是12，输出1表示女孩，而0表示男孩呢？这就要通过日常生活中的大量实践认识。数学模型不像人可以通过日常中漫长的学习和实践训练，它只能通过样本数据来训练，从而获得模型的参数并应用。例如，可以选择1000个人，其中500个人是男孩，500个人是女孩，分别量其头发长度，输入以上模型进行训练，训练的准则是判别正确率最大化。（1）取阈值=1，这时判别正确率应该非常低。（2）取值依次增加，假设阈值=12时为最大，达到0.95，当阈值12时，判别的正确率开始下降，故可以认为阈值=12时达到判别正确率最大。这个时候，其中95%的男孩对应的函数值为0，同样95%的女孩对应的函数值为1。如果选用这个模型进行判别，其判别正确率达到0.95。以上两步训练完成即得到参数阈值=12，有95%的可能性输出1表示判别为女孩，输出0表示判别为男孩

神经网络数学模型第5章x为m维向量，y为n维向量，隐含层有q个神经元。假设有N个样本数据，从输入层到隐含层的权重记为从隐含层到输出层的权重记为记第t个样本输入网络时，隐含层单元的输出为输出层单元的输出为，则：这里为对应输入神经元的阈值，通常为1，为对应隐含层神经元的阈值，通常为1，和分别为隐含层、输出层神经元的激发函数。常用的激发函数如下

神经网络数学模型第5章选定隐含层及输出层神经元的个数和激发函数后，这个神经网络就只有输入层至隐含层、隐含层至输出层的参数未知了。一旦确定了这些参数，神经网络就可以工作了。如何确定这些参数呢？基本思路如下：通过输入层的N个样本数据，使得真实的y值与网络的预测值的误差最小即可，它变成了一个优化问题，记，则优化问题如下：如何求解这个优化问题获得最优的呢？常用的有BP算法，这里不再介绍该算法的具体细节，本节着重介绍如何利用Python进行神经网络模型应用。

神经网络分类应用举例第5章取UCI公共测试数据库中的澳大利亚信贷批准数据集作为本例的数据集，该数据集共有14个特征，1个分类标签y（1—同意贷款，0—不同意贷款），共690个申请者记录。x1x2x3x4x5x6x7x8x9x10x11x12x13x14y122.0811.462441.5850001210012130022.6772840.1650000216010029.581.751441.250001228010021.6711.51530111112011120.178.172641.96111402601591015.830.5852881.51120210011117.426.52340.12500002601010058.674.4621183.0411602435611……以前600个申请者作为训练数据，后90个申请者作为测试数据，利用神经网络分类模型预测准确率。

神经网络分类应用举例第5章1．数据获取、训练样本与测试样本的划分importpandasaspddat