一种简洁高效的加速卷积神经网络的方法_刘进锋.pdfVIP

14 33 2014 11 科 学 技 术 与 工 程 Vol. 14 No. 33 Nov． 2014 第 卷 第 期 年 月 1671— 1815 (2014)33-0240-05 Science Technology and Engineering  2014 Sci. Tech. Engrg. 计算机技术 一种简洁高效的加速卷积神经网络的方法 刘进锋 ( ， 750021 ) 宁夏大学数学计算机学院 银川 ， 。 摘 要 卷积神经网络是机器学习领域一种广泛应用的方法 在深度学习中发挥着重要的作用 由于卷积神经网络一般需 ， ， 。 GPU 要多个层 而且训练数据通常都很大 所以网络训练可能需要几小时甚至很多天 目前虽然有一些利用 加速卷积神经网 ， ， ， 。 、 络训练的研究成果 但基本上都是实现方式复杂 需要技巧很高 而且容易出错 提出了一种简洁 高效的加速卷积神经网络 ， ， ; BLAS 训练的方法 其主要过程是将卷积层展开 这样卷积层和全连接层的主要训练步骤都可以用矩阵乘法表示 再利用 库高 。 ， CPU GPU 。 ， 效计算矩阵乘法 这种方法不需要过多考虑并行处理的细节和处理器的内核特点 在 和 上都能加速 实验证明 GPU 上使用该方法比传统的CPU 上的实现快了100 多倍。 关键词 卷积神经网络 卷积展开 矩阵乘法 CUDA BLAS 中图法分类号 TP183 ; 文献标志码 A 卷积神经网络(convolutional neural networks ， 且通用性差，GPU 的类型和输入数据的大小对性能 ［6 ，7］ CNN) ， 。 ， 是人工神经网络的一种 由多层感知器 影响很大 一些开源软件 结构比较复杂 并不 (MLP) ， ［1］，人 能满足个性化CNN 实现的要求。 优化后衍生而来 可用于手写字识别 ［2］ CNN (5 )， 、 、 ， 实用的 结构一般包括多个层 层以上 脸 眼睛 车牌检测 和非视觉应用 例如语义分 ， 。CNN ， ， 其中重要的层有卷积层和全连接层 在进行网络训 析 最大的缺点 除实现上复杂以外 网络训练 ， (BP) 。 所花费的时间也很长。CNN 训练在计算和数据上 练时 可以采用误差传递的后向传播 算法 全