深度学习与神经网络手册（执行版）.docxVIP

深度学习与神经网络手册（执行版）

第1章神经网络基础架构与数学原理

1.1神经网络的基本结构与数据流向

神经网络由多层感知器（MLP）构成，其核心组件包括输入层、隐藏层和输出层。输入层接收原始数据，隐藏层通过非线性变换提取特征，输出层产生最终预测结果。例如，在图像分类任务中，输入层接收像素矩阵，经过卷积层提取边缘特征，再经全连接层识别物体类别。数据在神经网络中按照“前向传播”和“反向传播”两个方向流动。前向传播计算网络输出，反向传播则根据损失函数计算梯度并更新权重。以简单的二分类问题为例，输入为[0,0]和[1,1]，网络通过激活函数输出0和1，进而计算交叉熵损失。

神经元单元是神经网络的计算基本单位，每个单元包含一个神经元和一组权重。神经元内部通过点积运算将输入与权重相乘，再与偏置项相加得到线性组合。例如，输入向量$x=[2,3]$与权重$w=[1,1]$的点积为5，加上偏置2后得到7。激活函数用于引入非线性，使得网络具备拟合复杂函数关系的能力。常用的激活函数包括Sigmoid、ReLU和Tanh。例如，Sigmoid函数将输出映射到(0,1)区间，ReLU函数将负数置零，ReLU在深层网络中表现更优。全连接层（DenseLayer）将前一层的输出映射到另一层，是神经网络中常见的层类型。每一层神经元数量可能