深度学习技术应用手册.docx

深度学习技术应用手册

第1章深度学习基础架构与核心原理

1.1神经网络基础与激活函数

神经网络作为深度学习的核心单元，本质上是一组按顺序连接的神经元矩阵，其输入通过权重矩阵进行加权求和，再经过非线性激活函数映射为输出，实现数据的非线性变换。在基础架构中，输入层接收原始数据，隐藏层通过多层非线性映射提取特征，输出层预测结果；例如在处理图像时，输入层接收RGB像素，第一层隐藏层提取边缘，第二层提取纹理，第三层提取形状。

激活函数是神经网络中不可或缺的非线性组件，它将线性组合的结果转化为非线性函数，使得网络具备学习复杂非线性关系的能力；常用的Sigmoid、ReLU和Tanh