深度学习核心算法模型构建与架构优化的核心要点.docxVIP

深度学习核心算法模型构建与架构优化的核心要点

目录

文档简述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

深度学习核心算法概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

2.1神经网络基础．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

2.2激活函数与权重初始化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

2.3损失函数与优化算法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．12

模型构建方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．16

3.1常见网络结构．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．16

3.2模型设计原则．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．20

3.3模型参数调整策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．20

架构优化策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．25

4.1并行与分布式计算．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．