神经网络理论基础及其深度学习演进研究.docxVIP

神经网络理论基础及其深度学习演进研究

目录

神经网络基础理论概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1神经网络发展历程．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2神经网络基本结构．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

1.3神经元模型及其功能．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．4

神经网络核心原理分析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

2.1学习算法原理．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

2.2激活函数的作用．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．9

2.3权重和偏置的更新机制．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

深度学习技术演进．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

3.1深度学习概念的提出．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

3.2卷积神经网络的发展．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．17

3.3循环神经网络