正则化bp神经网络模型研究.docx

PAGE13

摘要

伴随大数据时代的来临，人工智能领域的研究与开发问题成为热点，人工神经网络目前被广泛运用于处理图像检测、语音识别等领域。BP算法是前馈人工神经网络（FFANN）中最常用的训练策略。然而，BP算法往往导致FFANN收敛速度慢、泛化能力差、稀疏性不足等问题。因此，本文将正则化方法引入神经网络，对网络的权值进行优化。在网络全体连接权值上施加惩罚项，介绍加入拉普拉斯正则化、高斯正则化后网络的训练过程。随后在经典的误差

损失函数中施加正则化项，结合小批量梯度下降过程，提出小批量 正则化梯度下降算法，并针对算法可能导致的震荡性问题对其进行进一步改进。

最后进行相关