神经网络计算资源效能提升路径探析.docxVIP

神经网络计算资源效能提升路径探析

目录

神经网络计算资源效能提升概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1神经网络计算资源的现状与挑战．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2神经网络计算资源效能提升的关键路径．．．．．．．．．．．．．．．．．．．．．3

神经网络计算资源效能提升的技术路径．．．．．．．．．．．．．．．．．．．．．．4

2.1神经网络模型优化技术．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．4

2.2神经网络算法优化方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

2.3神经网络硬件支持与加速技术．．．．．．．．．．．．．．．．．．．．．．．．．．．．．8

神经网络计算资源效能提升的算力提升路径．．．．．．．．．．．．．．．．．10

3.1并行计算技术与分布式计算研究．．．．．．．．．．．．．．．．．．．．．．．．．．11

3.1.1多GPU并行计算优化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．12

3.1.2分布式训练框架优化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．15

3.2神经网络加速芯片与加速器设计．．．．．．．．．．．．．．．．．．．．．．．．．．18

3.2.1FPGAs在神经网