人工智能基础与实践第4章《深度模型优化》.docx

人工智能基础与实践第4章《深度模型优化》.docx

教育部-华为智能基座课程

章节目录

01网络优化

02小批量梯度下降

03学习率与梯度优化

04参数初始化与数据预处理05逐层归一化

04参数初始化与数据预处理05逐层归一化

06超参数优化

训练集上是否有好的结果?

训练集上是否有好的结果?

测试集上是否有好的结果?

输入数据

输入数据

优化问题:

优化问题:

神经网络是一个非凸函数,再加上在深度网络中的梯度消失问题,很难进行优化;

深层神经网络模型一般参数比较多,训练数据也比较大,会导致训练的效率比较低。

3

4

测试集上是否有好的结果?输入数据训练集上是否

测试集上是否有好的结果?

输入数

文档评论(0)

1亿VIP精品文档

相关文档