logo

您所在位置网站首页 > 海量文档  > 医药卫生 > 神经内外科

深入剖析神经网络的运行机理及实现.doc 14页

本文档一共被下载: ,您可全文免费在线阅读后下载本文档。

  • 支付并下载
  • 收藏该文档
  • 百度一下本文档
  • 修改文档简介
全屏预览

下载提示

1.本站不保证该用户上传的文档完整性,不预览、不比对内容而直接下载产生的反悔问题本站不予受理。
2.该文档所得收入(下载+内容+预览三)归上传者、原创者。
3.登录后可充值,立即自动返金币,充值渠道很便利
深入剖析神经网络的运行机理及实现 随着大数据和机器硬件水平的提升,神经网络特别是深度神经网络现在是大火特火。因为目前的深度学习模型都是基于神经网络进行的改进和加深,所以要想对深度学习有一些较深入的研究,先熟悉和了解人工神经网络是非常有帮助的。 本文基于神经网络实现一个手写体数字识别模型,此处使用的数据集为sklearn自带的digit数据,只要装了sklearn就可以直接获得。 1、手写体人工神经网络模型 神经网络是一个判别模型,它会利用训练集学到一个从输入到输出的映射关系,结构上可以分为输入层、隐藏层和输出层,如上图。输入层用于接收数据的输入,通过隐藏层的处理,最后经输出层转换得到输出。 上图为基于mnist数据集画的一个神经网络模型,因为mnist一张图片为28*28=784,故输入层有784个神经元。而digit的图片为8*8=64,故digit数据集的输入层有64个神经元,也就是说我们将要实现的神经网络输入层有64个神经元,要简单很多。 神经网络的性能如何,隐层的设计非常关键,隐藏层是设计用来自动学习特征的,通过这些学到的特征来进行最后一层的分类任务,那它会学到什么东西呢?在手写体数字识别中,大概会学到这样的特征: 有了隐层学到的这些东西,那么对它进行组合判断就很容易得到输出了,例如发现上面的四个特征均被激活,则如我们所知,其有很大的概率表示数字0。 2、运行机理及实现 在有监督学习中,模型会分为训练阶段和预测阶段,在训练阶段将模型中的待定参数学习出来,然后用在预测阶段,就好像我们初中求解带参方程ax+b=y一样,首先通过已知条件把方程中的参数给求解出来,然后再利用求出来的参数计算给定x下的y值。 在神经网络的训练阶段,主要包括以下几步: (1)加载训练集; (2)前向传导,将信息传递给输出层; (3)利用标注信息和代价函数来计算代价; (4)通过反向传播代价函数梯度来更新每一层中的参数 其简单实现的整体代码如下: #coding=utf-8 ''' Created on Jul 20, 2016 ''' import numpy as np import random from sklearn import datasets class Network(object): def __init__(self,sizes): ''' parameters: sizes中保存了神经网络各层神经元个数 functions: 对神经网络层与层之间的连接参数进行初始化 ''' #权重矩阵 self.weights = [np.random.randn(y,x) for x,y in zip(sizes[:-1],sizes[1:])] #偏置矩阵 self.biases = [np.random.randn(x) for x in sizes[1:]] def init_parameters(self,parameters): ''' functions:初始化模型参数 parameters主要包括: epochs:迭代次数 mini_batch_size:批处理大小 eta:学习率 nnLayers_size:神经网络层数 ''' self.epochs = parameters.get("epochs") self.mini_batch_size = parameters.get("mini_batch_size") self.eta = parameters.get("eta") self.nnLayers_size = parameters.get("nnLayers_size") def load_data(self): ''' functions:加载数据集,这里使用的是sklearn自带的digit手写体数据集 ''' digits = datasets.load_digits() return digits.data, digits.target def feed_

发表评论

请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
用户名: 验证码: 点击我更换图片

“原创力文档”前称为“文档投稿赚钱网”,本站为“文档C2C交易模式”,即用户上传的文档直接卖给(下载)用户,本站只是中间服务平台,本站所有文档下载所得的收益归上传人(含作者)所有【成交的100%(原创)】。原创力文档是网络服务平台方,若您的权利被侵害,侵权客服QQ:3005833200 电话:19940600175 欢迎举报,上传者QQ群:784321556