人工智能基础与实践 第4章 深度模型优化.docx

人工智能基础与实践 第4章 深度模型优化.docx

教育部

教育部-华为智能基座课程

授课教师:丛润民

授课教师:丛润民

山东大学

控制科学与工程学院

控制科学与工程学院

章节目录

01网络优化

02小批量梯度下降

03学习率与梯度优化

04参数初始化与数据预处理

05逐层归一化

06超参数优化

07过拟合与正则化

训练集上是否

训练集上是否有好的结果?

测试集上是否有好的结果?

输入数据

优化问题:

优化问题:

神经网络是一个非凸函数,再加上在深度网络中的梯度消失问题,很难进行优化;

深层神经网络模型一般参数比较多,训练数据也比较大,会导致训练的效率比较低。

3

4

测试集上是否有好的结果?输入数

文档评论(0)

1亿VIP精品文档

相关文档