基于动态学习率边界的神经网络训练算法研究.pdf

基于动态学习率边界的神经网络训练算法研究.pdf

摘要

摘要

近年来,人工智能技术不断普及,并不知不觉走进我们的生活,特别是大数据

迎来快速发展,海量数据被不断产生和积累。这些海量的数据也为深度学习提供更

多的训练实例样本,使得深度学习的应用越来越广泛。

目前,自适应算法如Adam由于其动态调整参数学习率及收敛速度快等优势,

已然成为深度学习中训练神经网络的常用方法之一。然而这一类自适应算法在训

练过程中学习率有时存在波动过大甚至出现无法收敛的情况,并

文档评论(0)

1亿VIP精品文档

相关文档