大规模神经网络开发与工程化应用研究.docxVIP

大规模神经网络开发与工程化应用研究

目录

内容简述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1研究背景与意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2研究内容与目标．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

大规模神经网络理论基础．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

2.1神经网络概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．6

2.2大规模神经网络的特点．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

2.3神经网络学习算法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．9

大规模神经网络架构设计与优化．．．．．．．．．．．．．．．．．．．．．．．．．．．12

3.1网络架构选择．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．12

3.2计算资源优化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

3.3算法并行化策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．17

大规模